Kāpēc Džefrijs Hintons nolēma, ka viņam vajadzētu “pūst svilpi” tehnoloģijām

Ņujorka (CNN) Džefrijs Hintons, pazīstams arī kā “Mākslīgā intelekta krusttēvsViņš nolēma, ka viņam ir “jāizsvilpj” tehnoloģija, kuru viņš palīdzēja izstrādāt pēc tam, kad bija uztraucies par to, cik tā ir gudra, viņš otrdien sacīja CNN.

“Es esmu tikai zinātnieks, kurš pēkšņi saprot, ka šīs lietas kļūst gudrākas par mums,” otrdien intervijā CNN korespondentam Džeikam Taperam sacīja Hintone. “Es vēlos kaut kā nopūst svilpi un teikt, ka mums vajadzētu nopietni uztraukties par to, kā mēs neļausim šīm lietām mūs pārņemt.”

Hintona novatoriskais darbs pie neironu tīkliem veido mākslīgā intelekta sistēmas, kas nodrošina daudzu mūsdienu produktu darbību. Pirmdien viņš publicēja virsrakstus par to, ka atstāja savu amatu Google, kur viņš strādāja desmit gadus, lai atklāti runātu par savām pieaugošajām bažām par tehnoloģiju.

Pirmdien intervijā ar The New York TimesHintons, kurš pirmais ziņoja par savu soli, sacīja, ka ir nobažījies par mākslīgā intelekta spēju likvidēt darbavietas un radīt pasauli, kurā “daudzi vairs nevarēs pateikt, kas ir pareizi”. Viņš arī atzīmēja pārsteidzošo progresa tempu, kas daudz pārsniedz to, ko viņš un citi bija gaidījuši.

“Ja tas kļūtu gudrāks par mums, tas būtu ļoti labs manipulācijās, jo tas būtu to iemācījies no mums, un ir ļoti maz piemēru, ka kaut ko saprātīgāku kontrolē kaut kas mazāk inteliģents,” Hinton teica Tapper. otrdiena.

“Viņa zina, kā kodēt, tāpēc viņa izdomās veidus, kā apiet ierobežojumus, ko mēs viņai uzlikām. Viņa izdomās veidus, kā manipulēt ar cilvēkiem, lai viņi darītu to, ko viņi vēlas.”

Hintons nav vienīgais tehnoloģiju līderis, kurš ir paudis savas bažas par AI. Vairāki kopienas locekļi parakstīja a ziņa martā Lūgums AI laboratorijām pārtraukt jaudīgāko AI sistēmu apmācību vismaz uz sešiem mēnešiem, atsaucoties uz “dziļiem riskiem sabiedrībai un cilvēcei”.

ziņa, publicēts No bezpeļņas institūta The Future of Life Institute Atbalstīts Autors Elons Masks, tikai divas nedēļas pēc OpenAI paziņot GPT-4, jaudīgāka vīrusu tērzēšanas robota tehnoloģijas versija, kas atbalsta ChatGPT. Agrīnās pārbaudēs un uzņēmuma demonstrācijā GPT-4 tika izmantots, lai izstrādātu tiesas prāvas, nokārtotu standartizētus testus un izveidotu funkcionējošu vietni no ar roku zīmētas skices.

Apple līdzdibinātājs Stīvs Vozņaks, kurš bija viens no vēstules parakstītājiem, otrdien parādījās raidījumā CNN This Morning, atkārtojot bažas par tā spēju izplatīt dezinformāciju.

“Maldināšana būs daudz vieglāka tiem, kas vēlas jūs maldināt,” CNN sacīja Vozņaka. “Mēs neveicam nekādas izmaiņas šajā ziņā – mēs tikai pieņemam, ka mūsu spēkā esošie likumi par to parūpēsies.”

Vozņaks arī sacīja, ka varētu būt vajadzīga “kaut kāda organizācija”.

Savukārt Hintons telekanālam CNN sacīja, ka nav parakstījis petīciju. “Es nedomāju, ka mēs varam apturēt progresu,” viņš teica. “Es neparakstīju petīciju, kurā teikts, ka mums vajadzētu pārtraukt darbu pie AI, jo, ja cilvēki Amerikā apstāsies, cilvēki Ķīnā to nedarīs.”

Taču viņš atzina, ka nav skaidras atbildes, ko darīt tā vietā.

“Man nav skaidrs, vai mēs varam atrisināt šo problēmu,” sacīja Hintons Tapper. “Domāju, ka mums ir jāpieliek lielas pūles, domājot par veidiem, kā atrisināt problēmu. Man šobrīd nav risinājuma.”