Mākslīgā intelekta krusttēvs Džefrijs Hintons brīdina par riskiem, kad viņš pamet Google

Vīrietis, kas plaši tiek uzskatīts par mākslīgā intelekta (AI) krusttēvu, ir pametis darbu, brīdinot par pieaugošām briesmām, ko rada notikumi šajā jomā.

75 gadus vecais Džefrijs Hintons paziņojumā laikrakstam New York Times paziņoja par aiziešanu no Google, sakot, ka tagad nožēlo savu darbu.

Viņš BBC sacīja, ka daži viedo tērzēšanas robotu riski ir “ļoti biedējoši”.

“Šobrīd viņi nav gudrāki par mums, cik es varu spriest. Bet es domāju, ka drīz viņi varētu būt.”

Dr Hinton arī piekrita, ka viņa vecums ir ietekmējis viņa lēmumu pamest tehnoloģiju gigantu, BBC sacīja: “Man ir 75, tāpēc ir pienācis laiks doties pensijā.”

Dr. Hintona novatoriskais pētījums par dziļo mācīšanos un neironu tīkliem pavēra ceļu pašreizējām AI sistēmām, piemēram, ChatGPT.

Bet kāds britu un kanādiešu kognitīvais psihologs un datorzinātnieks BBC sacīja, ka tērzēšanas robots drīzumā varētu pārspēt cilvēka smadzenēs esošās informācijas līmeni.

“Šobrīd mēs redzam, ka tādas lietas kā GPT-4 pārspēj cilvēku vispārējo zināšanu apjomā un daudz pārspēj cilvēku. Pamatojuma ziņā tas nav īpaši labi, bet tas ir vienkārši domāšana.

“Un, ņemot vērā progresa ātrumu, mēs sagaidām, ka lietas uzlabosies ļoti ātri. Tāpēc mums par to jāuztraucas.”

New York Times rakstā Dr. Hintons atsaucās uz “sliktajiem aktieriem”, kuri mēģinās izmantot AI “sliktām lietām”.

Kad BBC lūdza to sīkāk izskaidrot, viņš atbildēja: “Tas ir tikai sliktākais scenārijs, murga scenārija veida lieta.

“Var iedomāties, piemēram, dažiem sliktiem aktieriem patīk [Russian President Vladimir] Putins nolēma dot robotiem iespēju izveidot savus apakšmērķus.

Galu galā tas varētu “radīt apakšmērķus, piemēram, “Man ir jākļūst spēcīgākam”, brīdināja zinātnieks.

Viņš piebilda: “Esmu nonācis pie secinājuma, ka mūsu attīstītā intelekta veids ļoti atšķiras no tā, kāds mums ir.

“Mēs esam bioloģiskas sistēmas, un tās ir digitālās sistēmas. Lielā atšķirība ir tā, ka ar digitālajām sistēmām jums ir daudz viena un tā paša svaru kopas, viena un tā paša pasaules modeļa kopijas.

“Un visi šie kloni var mācīties atsevišķi, bet uzreiz dalīties savās zināšanās. Tātad tas ir tāpat kā tad, ja jums ir 10 000 cilvēku un ikreiz, kad kāds kaut ko apgūst, visi to zina automātiski. Tātad šie tērzēšanas roboti var zināt daudz vairāk nekā jebkura viena persona.”

Viņš uzsvēra, ka nevēlas kritizēt Google un ka tehnoloģiju gigants ir “ļoti atbildīgs”.

“Es patiesībā vēlos pateikt dažas labas lietas par Google. Būtu ticamāk, ja es nestrādātu Google.”

Paziņojumā Google galvenais zinātnieks Džefs Dīns sacīja: “Mēs joprojām esam apņēmušies ievērot atbildīgu pieeju AI. Mēs pastāvīgi mācāmies izprast jaunos riskus, vienlaikus arī drosmīgi ieviešot jauninājumus.”