Google skaidro “apkaunojošās” mākslīgā intelekta fotogrāfijas, ko Gemini uzņēma no dažādiem nacistiem

Google ir izdevusi skaidrojumu par “neērtiem un nepareiziem” attēliem, ko ģenerējis tās Gemini AI rīks. iekšā Piektdienas ierakstsGoogle saka, ka tā modelis pielāgošanas problēmu dēļ radīja “neprecīzus vēsturiskus” attēlus. mala Citi šonedēļ pieķēra Dvīņus, veidojot attēlus ar rasu ziņā daudzveidīgiem nacistiem un ASV dibinātājiem.

“Mēs nolēmām pārliecināties, ka Dvīņi parāda cilvēku grupas nespēju interpretēt situācijas, kurām vajadzētu būt acīmredzamām Nē “Rādīt mērogu,” ierakstā rakstīja Prabhakars Raghavans, Google vecākais viceprezidents. “Otrkārt, laika gaitā modelis kļuva piesardzīgāks, nekā mēs plānojām, atsakoties pilnībā atbildēt uz dažiem norādījumiem, kā rezultātā daži nomierinoši stimuli tika nepareizi interpretēti kā jutīgi.”

Tas ir novedis pie tā, ka Gemini AI “dažos gadījumos pārmērīgi kompensē”, piemēram, to, ko mēs redzējām rasu ziņā daudzveidīgo nacistu attēlos. Tas arī liek Dvīņiem kļūt “pārāk konservatīviem”. Tas noveda pie tā, ka viņa atteicās radīt konkrētus “melnās personas” vai “baltās personas” attēlus, kad tika lūgts to darīt.

Emuāra ziņojumā Raghavan teica, ka Google “atvainojas, ka šī funkcija nedarbojās labi”. Viņš arī norāda, ka Google vēlas, lai Gemini “labi darbotos visiem”, un tas nozīmē iegūt dažādu veidu cilvēku (tostarp dažādu rasu) fotoattēlus, kad tā pieprasa “futbolistu” vai “personas, kas staigā ar suni” fotogrāfijas. Bet viņš saka:

Tomēr, ja jūs lūdzat Dvīņiem attēlus ar noteikta veida cilvēkiem, piemēram, “melnādains skolotājs klasē” vai “balts veterinārārsts ar suni” vai cilvēki noteiktā kultūras vai vēstures kontekstā, jums noteikti jāsaņem atbilde. kas precīzi atspoguļo to, ko jūs par to lūdzat.

Raghavan saka, ka Google turpinās pārbaudīt Gemini AI attēlu ģenerēšanas iespējas un “strādās, lai tās ievērojami uzlabotu”, pirms to atkārtoti iespējo. “Kā jau no paša sākuma esam teikuši, halucinācijas ir izaicinājums, kas zināms visiem LLM īpašniekiem [large language models] Raghavan norāda, ka ir gadījumi, kad mākslīgais intelekts kļūdās. “Šī ir lieta, pie kuras mēs pastāvīgi strādājam, lai uzlabotu.”