Recentemente, uma pergunta feita ao ChatGPT intrigou os internautas com a resposta dada. Acontece que a inteligência artificial teria inventado uma data aleatória para a coroação do rei Charles 3º, que ocorreu em 6 de maio.
- Conheça os novos dispositivos com Alexa: Echo Pop! Novo design elegante com som envolvente. Em oferta e com opções de frete grátis. Clique aqui!
“A cerimônia de coroação ocorreu na Abadia de Westminster, em Londres, em 19 de maio de 2023. A abadia é local de coroações de monarcas britânicos desde o século 11, e é considerada um dos lugares mais sagrados e emblemáticos do país“, disse o chatbot dias antes do evento oficial.
Apesar do erro, existe uma razão para o chute da tecnologia: o sistema gera respostas com base em informações disponíveis na internet até setembro de 2021. Portanto, dados recentes são fornecidos de maneira errada durante as consultas.
De acordo com os especialistas, o parágrafo representa uma “alucinação” da tecnologia, que é quando as informações fornecidas pelo sistema apresentam dados incorretos, tendenciosos ou completamente errôneos.
“O GPT-4 ainda tem muitas limitações conhecidas que estamos trabalhando para resolver, como preconceitos sociais, alucinações e informações conflitantes”, informou a OpenAI em março.
Inteligência Artificial
Segundo jornalistas do The New York Times, os erros informativos não são exclusivos da empresa, já que também acontecem com sistemas semelhantes. Além disso, o chatbot “aprende a repetir” as informações falsas disponíveis na internet.
“Os chatbots são movidos por uma tecnologia chamada modelo de linguagem grande, ou LLM (large language model), que adquire suas habilidades analisando grandes quantidades de texto digital extraído da internet”, explicam eles.
“Ao identificar padrões nesses dados, um LLM aprende a fazer uma coisa em particular: adivinhar a próxima palavra em uma sequência de palavras. Ele age como uma versão poderosa de uma ferramenta de preenchimento automático”.
Vale lembrar que os algoritmos são capazes de processar enormes quantidades de informações, tudo em questão de segundos. As próprias desenvolvedoras alertam e exigem cautela dos usuários.
“Essa tendência pode ser particularmente prejudicial à medida que os modelos se tornam cada vez mais convincentes e confiáveis, levando os usuários a confiar demais neles”, disse a OpenAi.
- Conheça os novos dispositivos com Alexa: Echo Pop! Novo design elegante com som envolvente. Em oferta e com opções de frete grátis. Clique aqui!
ChatGPT é seguro?
Desde o lançamento em novembro, diversas discussões foram levantadas sobre a existência de riscos no uso do chatbot. Bem… Os usuários já apontaram problemas com respostas falsas e até desinformação.
No entanto, a OpenAI afirmou que também é a favor da regulação do recurso, pois pretende manter a integridade de seus usuários.
“Trabalhamos ativamente para reduzir os dados pessoais no treinamento de nossos sistemas de IA, como o ChatGPT, porque queremos que nossa IA aprenda sobre o mundo, não sobre indivíduos particulares”, disse ao The New York Times.
- Conheça os novos dispositivos com Alexa: Echo Pop! Novo design elegante com som envolvente. Em oferta e com opções de frete grátis. Clique aqui!
Seja o primeiro a comentar