Wszyscy na A.I skorzystamy, ale trzeba pamiętać o ewentualnych konsekwencjach
Mamy rok 2065. W wyniku rewolucji robotów rasa ludzka jest prawie na wymarciu. Maszyny zbuntowały się i opanowują świat. Właśnie takiemu scenariuszowi chce zapobiec Google.
Coraz więcej naszych urządzeń korzysta z jakieś formy sztucznej inteligencji - telefony, samochody, drony, wszystkie te wynalazki będą coraz bardziej polegać na
A.I. Generalnie to super sprawa, ale jeśli nie chcemy dopuścić do katastrofy to warto by jakoś się zabezpieczyć przed ewentualnym buntem.
Laurent Orseau z DeepMind oraz Stuart Armstrong z Future of Humanity Institute na uniwersytecie w Oxfordzie pracują nad ''
guzikiem bezpieczeństwa'', który pozwoli ludziom na kontrolowanie maszyn nawet w przypadku ich ''
buntu''.
Teraz możemy się śmiać bo
bunt A.I może polegać co najwyżej na obrzucaniu ludzi mięsem w mediach społecznościowych, ale
Google i należące do niego DeepMind problem traktują serio. Dlatego już teraz naukowcy pracują nad rozwiązaniami, które zawsze i wszędzie pozwolą nam na wyłączenie takiego robota przyszłości.
Nie dziś, nie jutro ale wizja z filmów sci-fi może się ziścić
Jako przykład podają zaprojektowanego w 2013 bota, który miał grać w Tetrisa. Robot korzystał ze sztucznej inteligencji i miał być absolutnym mistrzem tej gry i nigdy nie przegrywać. Eksperyment po części się udał, bo robot w Tetrisa nigdy nie przegrał... ale dlatego, że nauczył się pauzować grę - jeśli coś szło po jego myśli zwyczajnie zatrzymywał rozgrywkę i nie uruchamiał jej dalej. Wszystko po to by nie zaznać goryczy porażki. W tym wypadku do Terminatora jeszcze daleko, ale pogadamy za 50 lat.
Naukowcy mówią, że największym problemem jest takie zaprojektowanie A.I żeby nie nauczyło się omijać zaprogramowanych weń wentylów bezpieczeństwa. ''N
ajważniejsza jest zdolność do całkowitego wyłączenia systemu ponieważ zawsze istnieje możliwość, że samouczacy robot znajdzie sposób na odcięcie się od kontroli człowieka''
napisał Noel Sharkey z University of Sheffield.
Zdaniem naukowców najlepszym sposobem było by takie zaprogramowanie sztucznej inteligencji w taki sposób, żeby ta zdawała sobie sprawę, że coś z nią nie tak i automatycznie się wtedy wyłączała. Do tego jednak jeszcze daleka droga.
Człowiek zawsze musi mieć ostateczne zdanie!
[źródło:
forbes.com,
engadget.com.
bbc.com]
Komentarze