Стивън Хокинг: човечеството може да бъде унищожено от AI
Разработчиците и законодателите трябва да се съсредоточат върху „максимизирането“ на ползите от технологията за обществото
Това съдържание е обект на авторско право.
Стивън Хокинг предупреди, че изкуственият интелект (AI) може да унищожи човечеството, освен ако не предприемем действия, за да избегнем рисковете, които представлява.
Говорейки на тазгодишната уеб среща на върха в Португалия, физикът каза, че наред с предимствата, технологията носи и опасности като мощни автономни оръжия или нови начини за малцината да потискат мнозина.
В кавички, съобщени от Forbes , продължи той: Успехът в създаването на ефективен AI може да бъде най-голямото събитие в историята на нашата цивилизация. Или най-лошото. ние просто не знаем.
Хокинг предложи, че човечеството може да попречи на ИИ да застраши съществуването ни, като регулира неговото развитие.
Може би всички трябва да спрем за момент и да се съсредоточим не само върху това да направим нашия AI по-добър и по-успешен, но и върху ползата за човечеството, добави той.
Коментарите му идват по-малко от три месеца след като Илон Мъск, основател на Tesla и SpaceX, каза, че ИИ е много по-рисков от заплахата от ядрена атака от Северна Корея.
Мъск по-рано каза на панел от американски държавни политици, че докато хората не видят роботи да вървят по улицата да убиват хора, те не знаят как да реагират, защото изглежда толкова ефирно.
Хокинг похвали действията в Европа за регулиране на новите технологии, съобщават CNBC , по-специално предложенията, представени от законодателите по-рано тази година за установяване на нови правила около AI и роботиката.
Илон Мъск казва, че изкуственият интелект е по-опасен от войната със Северна Корея
15 август
Основателят на Tesla и SpaceX Илон Мъск казва, че изкуственият интелект (AI) е „много по-рисков“ от заплахата от атака от Северна Корея.
В резултат на нарастващото напрежение между Северна Корея и САЩ, Мъск каза в туит: „Ако не сте загрижени за безопасността на ИИ, трябва да сте.“
Ако не сте загрижени за безопасността на AI, трябва да сте. Много по-голям риск от Северна Корея. pic.twitter.com/2z0tiid0lc
— Илон Мъск (@elonmusk) 12 август 2017 г
Това не е първият път, когато роденият в Южна Африка изобретател изразява загрижеността си относно AI технологията.
Говорейки пред публика от американски политици в Роуд Айлънд миналия месец, Мъск каза: „Докато хората не видят роботи да вървят по улицата и убиват хора, те не знаят как да реагират, защото изглежда толкова ефирно.“
За да избегне AI да се превърне в заплаха за човечеството, той казва, че правителството на САЩ трябва да „научи колкото е възможно повече“ и да „получи представа“ за това как работи технологията. Той също така трябва да въведе регулации, за да гарантира, че компаниите развиват безопасно ИИ.
Докато изобретателят признава, че „никой не обича да бъде регулиран“, той казва, че всичко останало, което представлява „опасност за обществото, е регулирано“ и че ИИ „трябва да бъде също“.
Никой не обича да бъде регулиран, но всичко (коли, самолети, храна, лекарства и т.н.), което представлява опасност за обществото, е регулирано. AI също трябва да бъде.
— Илон Мъск (@elonmusk) 12 август 2017 г
Забележките на Мъск идват по същото време, когато изкуственият интелект, разработен от неговата компания OpenAI, успешно победи някои от най-добрите играчи в света в компютърната игра Dota 2, съобщава Пазителят .
Системата „успя да спечели всичките си игри 1-v-1 на международните шампионати по Dota 2 срещу много от най-добрите играчи в света, които се състезаваха за награден фонд от $24,8 милиона (£19 милиона).'
Илон Мъск призовава за регулиране на ИИ, преди да е станало твърде късно
18 юли
Основателят на SpaceX и Tesla Илон Мъск призова развитието на изкуствен интелект (AI) да бъде регулирано, преди „да е станало твърде късно“.
Говорейки на среща на американски политици в Роуд Айлънд миналия уикенд, роденият в Южна Африка изобретател каза: „ИИ е рядък случай, в който смятам, че трябва да бъдем проактивни в регулацията, вместо да действаме повторно.
„Докато хората не видят роботи, които минават по улицата и убиват хора, те не знаят как да реагират, защото изглежда толкова ефирно.“
Той добави: „ИИ е основен риск за съществуването на човешката цивилизация.“
Той също така каза, че ИИ ще окаже значително влияние върху работните места, тъй като „роботите ще могат да правят всичко по-добре от нас“, добавяйки, че транспортният сектор, който според него представлява 12 процента от работните места в САЩ, ще бъде „един от първите неща, които стават напълно автономни“.
Мъск също така говори за своето „желание да създаде междупланетни колонии на Марс“, които да действат като сигурни убежища, ако роботи трябва да превземат Земята, CleanTechnica доклади.
За да избегне това да се случи на първо място, той призова правителството да „научи колкото е възможно повече“ и да „получи представа“ за това как AI може да бъде безопасно разработен.
Критиците обаче казват, че забележките на Мъск може да „отвличат вниманието от по-належащите притеснения“, пише Тим Симоните на С кабелна .
Райън Кало, експерт по кибер право във Вашингтонския университет, каза за уебсайта: „Изкуственият интелект е нещо, на което политиците трябва да обърнат внимание.
„Но фокусирането върху екзистенциалната заплаха двойно отвлича вниманието от нейния потенциал за добро и реалните проблеми, които създава днес и в близко бъдеще.“
