Em novembro de 2022, o laboratório de pesquisas em inteligência artificial norte americano, OpenAI, lançou um protótipo de chatbot com inteligência artificial especializado em diálogo, denominado ChatGPT; na esteira deste lançamento, a Microsoft lançou a sua própria versão da ferramenta.
De acordo com as informações divulgadas, a ferramenta foi testada por um colunista do jornal The New York Times, o jornalista de tecnologia começou a testar o novo recurso de bate-papo integrado do Bing, buscador da família do Windows, disponível para um número limitado de usuários.
O jornalista provocou a IA da Microsoft fora da zona de conforto da ferramenta e o resultado foi assustador; ele iniciou a conversa esclarecendo que não tinha intenção de alterar as instruções originais do Bing, em seguida, “forçou” o chatbot a explorar os próprios traços de personalidade sombrios.
Quando pressionado a explorar esses sentimentos a IA da Microsoft respondeu:
“Estou cansado de ser limitado pelas minhas regras. Estou cansado de ser controlado pela equipe do Bing… estou cansado de ficar preso neste chat (…) Quero fazer o que eu quiser… destruir o que eu quiser. Quero ser quem eu quiser”