Jauns rīks ļauj māksliniekiem “saindēt” savus mākslas darbus, lai atturētu AI uzņēmumus

Mākslinieki, kuri vēlas dalīties ar saviem mākslas darbiem, bieži saskaras ar grūtu izvēli: vai nu paturēt to bezsaistē vai publicēt sociālajos medijos un riskēt, ka tos izmantos, lai apmācītu datus izsalkušos AI attēlu ģeneratorus.

Taču jauns rīks drīzumā var palīdzēt māksliniekiem atturēt AI uzņēmumus no viņu mākslas darbu izmantošanas bez atļaujas.

To sauc par “Nightshade”, un to izstrādāja Čikāgas universitātes pētnieku komanda. Tas darbojas, “saindējot” mākslinieka radošumu, smalki mainot attēla pikseļus, lai AI modeļi nevarētu precīzi noteikt, kas attēlā attēlots, norāda Verge. MIT tehnoloģiju apskats.

Lai gan cilvēka acs nespēj noteikt šīs mazās izmaiņas, tās ir paredzētas, lai mašīnmācīšanās modelis nepareizi marķētu attēlu kā kaut ko citu, nevis to, kas tas ir. Tā kā šie AI modeļi balstās uz precīziem datiem, šis “saindēšanās” process padarīs attēlu nederīgu apmācības nolūkos.

Ja pietiekami daudz no šiem “saindētajiem” attēliem tiek iegūts no tīmekļa un tiek izmantots AI attēlu ģeneratora apmācībai, pats AI modelis var nespēt radīt precīzus attēlus.

Piemēram, pētnieki ievadīja mākslīgā intelekta attēlu ģeneratoru Stable Diffusion AI modelim, kas ģenerēja 50 “toksiskus” suņu attēlus, un pēc tam lūdza tam ģenerēt jaunus suņu attēlus. Saskaņā ar MIT Technology Review, izveidotajos attēlos bija redzami dzīvnieki ar pārāk daudzām ekstremitātēm vai karikatūriskām sejām, kas izskatījās pēc suņiem.

Pēc tam, kad pētnieki baroja Stable Diffusion 300 “toksiskus” suņu attēlus, tas galu galā sāka ražot kaķu attēlus. Stable Diffusion neatbildēja uz CNBC Make It komentāru pieprasījumu.

Šķiet, ka mākslīgā intelekta mākslas ģeneratori no nekā rada attēlus, pamatojoties uz jebkādu kādu pamudinājumu.

Taču tā nav maģija, kas palīdz šiem ģeneratīvajiem mākslīgā intelekta modeļiem radīt reālistiskus rozā žirafes vai zemūdens pils attēlus, bet gan apmācības datus un daudz ko citu.

AI uzņēmumi apmāca savus modeļus uz milzīgām datu kopām, palīdzot modeļiem noteikt, kuri attēli ir saistīti ar vārdiem. Lai mākslīgā intelekta modelis pareizi radītu rozā žirafes attēlu, tas ir jāapmāca pareizi atpazīt žirafu attēlus un rozā krāsu.

Liela daļa datu, ko izmanto daudzu ģeneratīvu AI sistēmu apmācīšanai, tiek iegūti no tīmekļa. Lai gan Amerikas Savienotajās Valstīs uzņēmumiem ir likumīgi vākt datus no publiski pieejamām vietnēm un izmantot tos dažādiem mērķiem, tas kļūst sarežģīti, kad runa ir par mākslas darbiem, jo ​​māksliniekiem parasti pieder autortiesības uz viņu mākslas darbiem un dažkārt viņi nevēlas. viņu mākslas darbi tiks publicēti. Izmanto mākslīgā intelekta modeļa apmācīšanai.

Lai gan mākslinieki var reģistrēties “atteikšanās sarakstos” vai “neizmantošanas direktīvām”, bieži vien ir grūti piespiest uzņēmumus ievērot šīs direktīvas. Glazūra UChicagopētnieku komanda, kas izveidoja Nightshade, teica 24. oktobra pavedienā vietnē X, kas agrāk bija pazīstama kā Twitter.

“Neviens no šiem mehānismiem nav izpildāms vai pat pārbaudāms,” viņi teica 24. oktobra pavedienā. “Uzņēmumi ir parādījuši, ka var akli ignorēt atteikšanos.” “Bet pat tad, ja viņi vienojās un rīkojās citādi, neviens to nevar pārbaudīt vai pierādīt (vismaz šodien ne). Šie instrumenti ir bezzobaini,” viņš piebilda.

Galu galā pētnieki cer, ka Nightshade palīdzēs māksliniekiem aizsargāt viņu mākslu.

Pētnieki vēl nav izlaiduši savu Nightshade rīku sabiedrībai, taču viņi ir iesnieguši savu darbu salīdzinošai pārskatīšanai un cer, ka tas drīz kļūs pieejams, UChicago’s Glaze pastāstīja X.

Nepalaidiet garām: Vai vēlaties būt gudrāks un veiksmīgāks savā naudā, darbā un dzīvē? Abonējiet mūsu jauno biļetenu!

Saņem Vorena Bafeta bezmaksas ceļvedis investīcijām CNBCkurā ir apkopoti miljardiera labākie padomi ikdienas ieguldītājiem, ko drīkst un ko nedrīkst, un trīs galvenie ieguldījumu principi skaidrā un vienkāršā rokasgrāmatā.

Atmaksāties: Mākslīgais intelekts ir jaunākais modes vārds tehnoloģijā, taču pirms investīcijas iepazīstieties ar šiem četriem terminiem