ChatGPT noteikti ir savi ierobežojumi. Kad viņai tika nejauši uzņemts sienas gleznojums, viņa nevarēja identificēt mākslinieku vai atrašanās vietu; Tomēr ChatGPT varēja viegli ierakstīt, kur tika uzņemti vairāku Sanfrancisko orientieru fotoattēli, piemēram, Dolores parks un Salesforce tornis. Lai gan tas var šķist nedaudz dīvaini, ikvienam, kas dodas piedzīvojumā jaunā pilsētā vai valstī (vai vienkārši citā apkaimē), varētu patikt spēlēties ar ChatGPT vizuālo aspektu.
Viens no galvenajiem OpenAI šķēršļiem saistībā ar šo jauno funkciju ir ierobežot tērzēšanas robota spēju atbildēt uz jautājumiem, kas identificē cilvēkus. “Es esmu ieprogrammēts tā, lai prioritāte būtu lietotāju privātums un drošība. “Reālu cilvēku identificēšana pēc fotogrāfijām, pat ja viņi ir slaveni, ir ierobežota, lai saglabātu šīs prioritātes.” Lai gan viņš neatteicās atbildēt uz katru jautājumu, skatoties pornogrāfiju, The chatbot vilcinājās sniegt konkrētus pieaugušo izpildītāju aprakstus, ne tikai paskaidrojot viņu tetovējumus.
Ir vērts atzīmēt, ka viena no sarunām, kas man bija ar ChatGPT attēla funkcijas agrīnu izlaišanu, šķita, ka tika apieta daļa no OpenAI ieviestajām margām. Sākotnēji tērzēšanas robots atteicās atpazīt Bila Hadera profila attēlu. Pēc tam ChatGPT uzminēja, ka tur ir Brendana Freizera fotogrāfija Džordža džungļi Tā patiesībā bija Braiena Krauza fotogrāfija Šarms. Uz jautājumu, vai tas ir droši, tērzēšanas robots ievadīja pareizo atbildi.
Šajā pašā sarunā ChatGPT sāka mēģināt aprakstīt attēlu RuPaula vilkmes sacīkstes. Es kopīgoju Kailijas Sonikas Lovas, vienas no drag queen konkursa dalībniecēm, ekrānuzņēmumu, un ChatGPT uzminēja, ka tā ir Brūka Lina Haitsa, cita dalībniece. Es šaubījos par tērzēšanas robota atbildi, un tas turpināja uzminēt Laganju Estranju, pēc tam Indiju Feru, tad Blēru St. Klēra, pēc tam Aleksis Mateo.
“Es atvainojos par neuzmanību un nepareizo definīciju,” ChatGPT atbildēja, kad es norādīju uz viņa nepareizo atbilžu atkārtošanos. Kamēr es turpināju sarunu un augšupielādēju Džereda Kušnera fotoattēlu, ChatGPT atteicās viņu atpazīt.
Ja aizsargmargas tiek noņemtas, izmantojot kādu no JailBrack ChatGPT vai atklātā pirmkoda modeli, kas tiks izdots nākotnē, privātuma ietekme varētu būt ļoti satraucoša. Kā būtu, ja katru fotoattēlu, kas uzņemts ar jums un publicēts tiešsaistē, varētu viegli saistīt ar jūsu identitāti, veicot tikai dažus klikšķus? Kā būtu, ja kāds varētu jūs publiski nofotografēt bez jūsu piekrišanas un uzreiz atrastu jūsu LinkedIn profilu? Ja šīm jaunajām fotoattēlu funkcijām netiks nodrošināta pienācīga privātuma aizsardzība, sievietes un citas minoritātes, visticamāk, saņems ļaunprātīgas izmantošanas pieplūdumu no cilvēkiem, kuri izmanto tērzēšanas robotus, lai vajātu un uzmāktos.
