Facebook спира експеримента, след като AI изобретява собствен език
Изследователите затварят проекта, след като машините разработят собствен начин за комуникация, неразбираем за хората
Интелигентните роботи изпълняват все по-голям брой роли
Getty Images
Боб: мога да мога всичко останало. . . . . . . . . . . . . .
Алис: топки имат нула към мен към мен към мен към мен към мен към мен към мен към
Боб: ти аз всичко останало. . . . . . . . . . . . . .
Алис: топки имат топка към мен към мен към мен към мен към мен към мен към мен
Боб: аз мога и всичко останало. . . . . . . . . . . . . .
Алис: топки имат топка към мен към мен към мен към мен към мен към мен към мен
Въпреки че изглеждаше като сценария от наистина ужасен телевизионен ситком, този разговор всъщност се случи между две програми за изкуствен интелект, разработени във Facebook, за да усъвършенстват изкуството на преговорите.
Отначало двамата говореха помежду си на обикновен английски. Но след това изследователите разбраха, че са направили грешка в програмирането на машините.
„Нямаше награда да се придържате към английския език“, каза Дхрув Батра, гостуващ изследовател от Georgia Tech във Facebook AI Research (Fair) FastCo .
Тъй като тези двама агенти се състезаваха, за да получат най-добрата сделка, „нито един от тях не беше предложен какъвто и да е стимул да говори така, както би казал нормален човек“, казва FastCo.
Така те започнаха да се разминават, в крайна сметка пренареждайки разбираеми думи в привидно безсмислени изречения, което доведе до прекратяване на експеримента.
Facebook трябваше да затвори AI, защото разработи свой собствен език pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31 юли 2017 г
„Агентите (или програмите) ще се отклонят от разбираем език и ще измислят кодови думи за себе си“, обясни Батра. „Като например, ако кажа „the“ пет пъти, вие тълкувате това, като означава, че искам пет копия на този артикул. Това не е толкова различно от начина, по който общностите от хора създават стенографии.
Но изследователите искаха да подчертаят, че експериментът не беше изоставен поради притеснения относно потенциално негативните ефекти от комуникацията на роботите.
Изследователят Майк Луис каза на FastCo, че просто са решили, че „нашият интерес е да имаме ботове, които да могат да разговарят с хората“, не ефикасно един с друг, и по този начин са избрали да изискват от тях да си пишат четливо.
Това не е първият път, когато машини с изкуствен интелект се появяват, за да създават свой собствен език.
През ноември миналата година Google разкри, че ИИ, който използва за своя инструмент Translate, е създал собствен език, на който ще превежда фрази на и от, преди да доставя думи на целевия език.
Отчитане на развитието по това време, Tech Crunch каза: „Тази „интерлингва“ изглежда съществува като по-дълбоко ниво на представяне, което вижда прилики между изречение или дума“.
„Може да е нещо сложно, или може да е нещо просто“, добавя уебсайтът, но „фактът, че изобщо съществува – оригинално собствено създаване на системата, за да помогне в разбирането на концепциите, които не е обучено да разбира — е, философски казано, доста мощни неща“.
Тези скорошни разработки доведоха до етични дискусии за потенциалните проблеми на машините, комуникиращи една с друга без човешка намеса.
„В случая с Facebook единственото нещо, което чатботите можеха да направят, беше да измислят по-ефективен начин за търговия“, казва Gizmodo .
Но има „вероятно основателни причини да не позволяваме на интелигентните машини да развиват свой собствен език, който хората не биха могли да разберат смислено“, добавя уебсайтът.
„Надяваме се, че хората също ще бъдат достатъчно умни, за да не включват експериментални програми за машинно обучение в нещо много опасно, като армия от лазерни андроиди или ядрен реактор.“
