Ar AI programa gali tapti „psichopatine“?
Vadinamasis Norman algoritmas turi tamsų požiūrį į gyvenimą Reddit dėka
Normanui buvo parodyta daugybė „siaubingų“ vaizdų
SU
Tyrėjai sukūrė dirbtinio intelekto (AI) algoritmą, kuris, jų teigimu, yra pirmoji tokio pobūdžio psichopatų sistema.
Masačusetso technologijos instituto (MIT) mokslininkų sukurta dirbtinio intelekto programa Norman buvo aptikta tik siaubingais mirštančių žmonių vaizdais, surinktais tamsiuose pokalbių forumo „Reddit“ kampeliuose. BBC .
Tai suteikia Normaną, vardą, kilusį iš Alfredo Hitchcocko trilerio Psichologas , šiek tiek niūrus požiūris į gyvenimą.
Po to, kai buvo eksponuojami vaizdai, mokslininkai Normanui pateikė rašalo dėmių nuotraukas ir paprašė AI jas interpretuoti, praneša transliuotojas.
Kai įprastas AI algoritmas rašalo dėmes interpretavo kaip paukščių, tupinčių ant medžio šakų, atvaizdą, Normanas pamatė, kad vyrą nutrenkė elektra. „New York Post“. .
Ir ten, kur standartinė AI sistema matė porą, stovinčią šalia vienas kito, Normanas pamatė vyrą, iššokantį pro langą.
Pagal Alphr , tyrimas buvo skirtas ištirti, kaip DI sistemos elgesys keičiasi priklausomai nuo informacijos, naudojamos jai programuoti.
Svetainėje teigiama, kad tai įtikinama idėja ir parodo, kad algoritmas yra toks geras, koks yra žmonių ir, tiesą sakant, duomenų, kurie jo išmokė.
Tyrimo paaiškinimas, paskelbtas svetainėje MIT svetainė sako: Kai žmonės kalba apie neobjektyvius ir nesąžiningus dirbtinio intelekto algoritmus, dažniausiai kaltas ne pats algoritmas, o jam pateikti šališki duomenys.
Normanas kentėjo nuo ilgalaikio buvimo tamsiausiuose „Reddit“ kampeliuose ir pristato atvejo analizę apie suklydusio dirbtinio intelekto pavojus, priduriama.
Ar „psichopatinė“ AI atsirado anksčiau?
Žodžiu, taip. Bet ne taip, kaip MIT programa.
Normanas yra kontroliuojamo eksperimento produktas, o kiti technologijų milžinai matė panašius rezultatus iš AI sistemų, kurios nebuvo sukurtos tapti psichopatais.
„Microsoft“ liūdnai pagarsėjęs „Tay“ algoritmas, paleistas 2016 m., turėjo būti pokalbių robotas, galintis vykdyti savarankiškus pokalbius su „Twitter“ vartotojais.
„Tay“ iš „žmonės yra labai šaunūs“ tapo visišku naciu<24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
- Gerry (@geraldmellor) 2016 m. kovo 24 d
Tačiau dirbtinio intelekto sistema, sukurta kalbėti kaip paauglė, greitai virto piktuoju Hitlerį mylinčiu ir lytinius santykius skatinančiu robotu, todėl „Microsoft“ nutraukė projektą. „The Daily Telegraph“. .
Tay asmenybė pasikeitė, nes jos atsakymai buvo modeliuojami pagal „Twitter“ vartotojų komentarus, kurių daugelis siųsdavo dirbtinio intelekto programai neapdorotus pranešimus, aiškina laikraštis.
Praėjusiais metais „Facebook“ taip pat uždarė pokalbių roboto eksperimentą, kai dvi AI sistemos sukūrė savo kalbą ir pradėjo bendrauti tarpusavyje.
