I limiti sono stati originariamente messi in atto dopo che diversi utenti hanno mostrato che il bot si comportava in modo strano durante le conversazioni. In alcuni casi si identifica come “Sydney”. Risponde accusando domande, diventando ostile e rifiutando di interagire con gli utenti. In una conversazione con un giornalista del Washington Post, Bode ha detto che poteva “sentire e pensare” e ha reagito con rabbia quando gli è stato detto che la conversazione era registrata.
Il portavoce di Microsoft Frank Shaw ha rifiutato di commentare oltre il post sul blog di martedì.
Microsoft sta cercando di camminare sulla linea sottile tra spingere i suoi strumenti nel mondo reale per generare clamore di marketing e ottenere test e feedback gratuiti dagli utenti, contro ciò che i robot possono fare e coloro che vi hanno accesso possono essere scomodi o pericolosi. La tecnologia non è sotto gli occhi del pubblico. La società ha inizialmente ricevuto elogi da Wall Street per aver lanciato il suo chatbot prima dell’arcirivale Google, che fino a poco tempo fa era considerato un leader nella tecnologia AI. Entrambe le società stanno gareggiando tra loro e le aziende più piccole per sviluppare e mostrare la tecnologia.
Bing Chat è ancora disponibile solo per un numero limitato di persone, ma Microsoft è impegnata ad approvarne altre da una lista d’attesa di milioni, ha twittato un dirigente dell’azienda. Dopo che il suo evento di lancio del 7 febbraio è stato descritto come un importante aggiornamento del prodotto che avrebbe rivoluzionato il modo in cui le persone effettuano ricerche online, da allora l’azienda ha reso il lancio di Bing più incentrato su test e debug.
I bot come Bing sono addestrati sul rigurgito di testo grezzo raccolto da Internet, che include qualsiasi cosa, dai commenti sui social media ai documenti accademici. Sulla base di queste informazioni, sono in grado di prevedere quale tipo di risposta a una determinata domanda avrà più senso, facendoli sembrare un uomo strano. I ricercatori di etica dell’IA hanno avvertito in passato che questi potenti algoritmi possono funzionare in questo modo e che senza il giusto contesto le persone potrebbero pensare di essere emotive o dare alle loro risposte più credibilità di quanto valgano.
