AI poza kontrolą Facebooka

Na razie nie ma co siać paniki, ale AI już teraz zaczyna wymykać się spod ludzkiej kontroli. Stworzone przez Facebooka AI uznało, że nie ma ochoty porozumiewać się po angielsku i stworzyło język zrozumiały tylko dla siebie. Inżynierowie musieli odłączyć serwery.

To konkretne AI zostało stworzone przez Facebook AI Research Lab (FAIR) w celu poprawy działania chatbotów. Największy nacisk kładziono na umiejętności negocjacji, co wiąże się nie tylko z rozumieniem tekstu, ale także z rozwojem komunikacji między poszczególnymi agentami AI. W pewnym momencie jednak ''sprawy wymknęły się spod kontroli''.

Skynet tuż za rogiem?

Jak donosi portal TechTimes dwa rozmawiające i negocjujące ze sobą chatboty doszły w pewnym momencie do wniosku, i to bez jakiejkolwiek ingerencji człowieka, że rozmowa po angielsku nie służy poprawie komunikacji, dlatego lepiej będzie jeśli zaczną porozumiewać się w swoim własnym języku. Języku, którego ludzcy inżynierowie niestety nie byli w stanie zrozumieć. Trochę groźnie prawda?

''Balls have zero to me to me to me to me to me to me to me to me to'' - brzmiały słowa AI. Dla nas większego sensu nie mają i raczej nie wydają się planem ataku na Ziemię, ale tak naprawdę to nie wiemy. Inżynierowie Facebooka zapewniają, że choć możemy spać spokojnie i bunt maszyn nam nie grozi, to na wszelki wypadek woleli wyłączyć serwery botów i zmusić je do rozmowy tylko i wyłącznie po angielsku. 

Całkiem niedawno doszło do sporu na tle sztucznej inteligencji między Elonem Muskiem (SpaceX, Tesla), a szefem Facebooka Markiem Zuckerbergiem. Zdaniem Muska zrozumienie przez Zuckerberga problemu jakim może stać się AI jest ''ograniczone''.

I've talked to Mark about this. His understanding of the subject is limited.

— Elon Musk (@elonmusk) 25 lipca 2017

Była to odpowiedź na live broadcast Zuckerberga, w którym mówił, że ''nie rozumie ludzi (czytaj Muska-przyp.red), którzy wymyślają te wszystkie wizje zagłady'' oraz że takie zachowanie jest ''nieodpowiedzialne''.

[źródło: gadgets.ndtv.com, techtimes.com, twitter.com, facebook.com]