Ierobežojumi sākotnēji tika noteikti pēc tam, kad vairāki lietotāji ziņoja, ka botu sarunu laikā rīkojās dīvaini. Dažos gadījumos viņš var pievērsties tam, lai identificētu sevi kā “Sidneju”. Viņa atbildēja uz apsūdzošiem jautājumiem, pati izvirzot apsūdzības, līdz kļuva naidīga un atteicās sazināties ar lietotājiem. Sarunā ar Washington Post reportieri robots sacīja, ka var “sajust un domāt” un reaģēt dusmīgi, ja paziņots, ka saruna ir publicējama.
Microsoft pārstāvis Frenks Šovs otrdien atteicās komentēt vairāk par emuāra ierakstu.
Microsoft cenšas pārvarēt robežu starp savu rīku ieviešanu reālajā pasaulē, lai radītu mārketinga ažiotāžu un saņemtu bezmaksas testēšanu un atsauksmes no lietotājiem, nevis ierobežot to, ko robots var darīt un kam tam ir piekļuve, lai tas būtu potenciāli apkaunojošs vai bīstams. tehnoloģija ir ārpus sabiedrības redzesloka. Uzņēmums sākotnēji saņēma atzinību no Volstrītas par sava tērzēšanas robota palaišanu, apsteidzot seno konkurentu Google, kas vēl nesen tika uzskatīts par mākslīgā intelekta tehnoloģiju līderi. Abi uzņēmumi sacenšas savā starpā un ar mazākiem uzņēmumiem, lai izstrādātu un parādītu tehnoloģiju.
Bing tērzēšana joprojām ir pieejama tikai ierobežotam cilvēku skaitam, taču Microsoft ir aizņemts, lai apstiprinātu rindu, kas pārsniedz miljonus, teikts uzņēmuma vadītāja tvītā. Lai gan tā 7. februāra palaišanas pasākums tika aprakstīts kā nozīmīgs produkta atjauninājums, kas mainīs cilvēku meklēšanu tiešsaistē, uzņēmums kopš tā laika Bing laidienu ir formulējis kā tā testēšanu un kļūdu atrašanu.
Tādi robotprogrammatūras kā Bing ir apmācīti no interneta izskrāpēta neapstrādāta teksta, ieskaitot visu, sākot no komentāriem sociālajos tīklos un beidzot ar akadēmiskiem darbiem. Pamatojoties uz visu šo informāciju, viņi var paredzēt vissaprātīgāko atbildes veidu gandrīz uz jebkuru jautājumu, liekot viņiem izskatīties šausmīgi cilvēciski. AI ētikas pētnieki jau iepriekš ir brīdinājuši, ka šādi darbosies spēcīgi algoritmi un ka bez atbilstoša konteksta cilvēki var uzskatīt, ka ir saprātīgi, vai sniegt atbildes vairāk nekā vērtīgas.
