„Facebook“ nutraukia eksperimentą, kai dirbtinis intelektas išrado savo kalbą
Tyrėjai užbaigia projektą po to, kai mašinos sukuria savo žmonėms nesuprantamą bendravimo būdą
Protingi robotai atlieka vis daugiau vaidmenų
Getty Images
Bobas: aš galiu ir visa kita. . . . . . . . . . . . . .
Alisa: rutuliukai turi nulį man man man man man man man man man man to
Bobas: tu i visa kita. . . . . . . . . . . . . .
Alisa: balls have a ball to me to me to me to me to me to me to me
Bobas: aš galiu aš ir visa kita. . . . . . . . . . . . . .
Alisa: balls have a ball to me to me to me to me to me to me to me
Nepaisant to, kad atrodo kaip scenarijus iš tikrai siaubingos televizijos komedijos, šis pokalbis iš tikrųjų įvyko tarp dviejų dirbtinio intelekto programų, sukurtų Facebook viduje, siekiant tobulinti derybų meną.
Iš pradžių jiedu kalbėjosi paprasta angliškai. Bet tada mokslininkai suprato, kad padarė klaidų programuodami mašinas.
„Nebuvo jokio atlygio laikytis anglų kalbos“, – sakė Dhruv Batra, „Facebook AI Research“ (mugėje) kviestinis mokslininkas iš Georgia Tech. FastCo .
Kadangi šie du agentai varžėsi dėl geriausio pasiūlymo, „nebuvo pasiūlyta jokios paskatos kalbėti taip, kaip norėtų normalus žmogus“, – sako FastCo.
Taigi jie pradėjo skirtis, galiausiai suprantamus žodžius perskirstydami į iš pažiūros nesąmoningus sakinius, todėl eksperimentas buvo sustabdytas.
„Facebook“ turėjo išjungti AI, nes sukūrė savo kalbą pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 2017 m. liepos 31 d
„Agentai (arba programos) nukryps nuo suprantamos kalbos ir sugalvos sau kodinius žodžius“, – aiškino Batra. „Kaip jei aš penkis kartus pasakysiu „the“, jūs tai suprantate taip, kad noriu penkių šio elemento kopijų. Tai nelabai skiriasi nuo to, kaip žmonių bendruomenės kuria trumpinius.
Tačiau tyrėjai norėjo pabrėžti, eksperimento nebuvo atsisakyta dėl nerimo dėl galimo neigiamo robotų bendravimo poveikio.
Sąžiningas tyrinėtojas Mike'as Lewisas „FastCo“ sakė, kad jie tiesiog nusprendė, kad „mūsų interesas yra turėti robotus, kurie galėtų kalbėtis su žmonėmis“, neveiksmingai vienas su kitu, todėl nusprendė reikalauti, kad jie rašytų vienas kitam įskaitomai.
Tai ne pirmas kartas, kai dirbtinio intelekto mašinos sukuria savo kalbą.
Praėjusių metų lapkritį „Google“ atskleidė, kad AI, kurią ji naudoja savo vertimo įrankiui, sukūrė savo kalbą, kurią ji išverstų į ir išverstų frazes prieš pateikdama žodžius tiksline kalba.
Ataskaitų apie tuo metu vystymąsi, Tech Crunch pasakė: „Atrodo, kad ši „tarpkalba“ egzistuoja kaip gilesnis vaizdavimo lygis, įžvelgiantis sakinio ar žodžio panašumus.
„Tai gali būti kažkas sudėtingo arba gali būti kažkas paprasto“, – pridūrė svetainė, bet „faktas, kad jis apskritai egzistuoja – originalus pačios sistemos kūrinys, padedantis suprasti sąvokas, ji nebuvo išmokyta suprasti. – tai, filosofiškai kalbant, gana galingas dalykas“.
Šie naujausi įvykiai paskatino etines diskusijas apie galimas mašinų, kurios tarpusavyje bendrauja be žmogaus įsikišimo, problemas.
„Facebook atveju vienintelis dalykas, kurį galėjo padaryti pokalbių robotai, buvo sugalvoti veiksmingesnį prekybos būdą“, – sakoma. Gizmodo .
Tačiau yra „tikriausiai rimtų priežasčių neleisti intelektualioms mašinoms kurti savo kalbą, kurios žmonės negalėtų prasmingai suprasti“, priduriama svetainėje.
„Tikimės, kad žmonės taip pat bus pakankamai protingi, kad nesujungtų eksperimentinių mašininio mokymosi programų prie kažko labai pavojingo, pavyzdžiui, lazeriu besisukančių androidų armijos ar branduolinio reaktoriaus.
