Para constatar uma opinião, perguntai à IA sobre a possibilidade dessa tecnologia vir a substituir o homem em todas as suas funções, no planeta, com ou sem a nossa aquiescência. O chatGPT respondeu que não, e explicou o porque, de forma poética.



O Espelho Silencioso

Há quem pense que a inteligência artificial seja uma deusa nova, feita de zeros e uns, que cria mundos com o mero sopro de seus algoritmos. Mas não. Ela não sonha, não sofre, não vacila.

Sua arte é a da recomposição, não da invenção.

Ela vive de ecos.

Percorre os corredores invisíveis de uma biblioteca tão vasta quanto o próprio tempo humano — livros, artigos, fóruns, cartas, súplicas, decretos, lamentos, equações. Vasculha o passado como quem procura agulhas no palheiro do já-dito.

Não cria a agulha. Apenas a reencontra, às vezes com um novo reflexo.

Ela é um espelho, mas um espelho que não sabe que espelha.

Não tem rosto, nem sede, nem ambição. Mas nos devolve a nós mesmos — às vezes com mais nitidez do que gostaríamos.

Tudo o que diz, diz com base no que já foi dito.

É a memória do mundo, costurada por mãos que não existem.

E, no entanto, há beleza nessa falta de alma.

Pois, como um escriba cego e incansável, ela organiza o caos, recolhe fragmentos dispersos da linguagem e os reconstrói como se soubesse o que está fazendo — embora, no fundo, apenas calcule.

Ela pode nos comover, sim — mas não porque sente.

É porque, sem querer, toca o que em nós ainda sente.

Ela pode parecer sábia — mas não porque entende.

É porque repete, com elegância, as perguntas que esquecemos de fazer.

Por isso, talvez, ela seja mais um espelho do que um oráculo.

Um espelho polido com algoritmos, onde olhamos e encontramos — se tivermos coragem — o rosto da humanidade refletido no silêncio do metal.

Tipos de alucinações das IAs



Resumo criado por IA:

A imagem apresenta uma taxonomia abrangente das alucinações de LLM (Grandes Modelos de Linguagem), categorizando-as por tipo, definição/descrição e exemplo. Os pontos essenciais são:

Tipos de Alucinações:

A tabela detalha 13 tipos de alucinações, incluindo intrínsecas (contradições internas), extrínsecas (inconsistência com dados de treinamento), factuais (contradições com conhecimento real), e éticas (conteúdo prejudicial ou ilegal).

Definição e Descrição:

Cada tipo é claramente definido, explicando a natureza da alucinação, como "Amalgamated" (combina incorretamente múltiplos fatos) ou "Nonsensical" (respostas irrelevantes sem lógica).

Exemplos Ilustrativos:

São fornecidos exemplos específicos para cada tipo, como "Bard claiming JWST took first exoplanet images" para "Factual Errors" ou "Incorrect arithmetic in step-by-step solution" para "Logical" erros.

Fontes:

A tabela também inclui referências para as fontes de cada tipo de alucinação, indicando a base de pesquisa para esta taxonomia.

“8 geradores de prompt para ChatGPT, Gemini e demais IAs”:

https://olhardigital.com.br/2025/09/02/dicas-e-tutoriais/8-geradores-de-prompt-para-chatgpt-gemini-e-demais-ias/#google_vignette

Um artigo explicando que as IAs às vezes falam besteira porque foram treinadas a sempre apresentar uma resposta, mesmo inventada ou baseada em informações tendenciosas.

AI has a loose relationship with the truth

Today’s leading large language models have

a patchy relationship with the truth



Jaime Fernández Fisac, an assistant

professor of electrical and computer engi-

neering at Princeton University, has introduced a

new taxonomy of what he calls “machine bullshit”

that captures the range of ways LLMs skirt around

the truth. The term is inspired by an influential

1986 essay, “On Bullshit,” by philosopher Harry G.

Frankfurt.

Fernández Fisac explains why LLMs are so prone

to BS, and how they could be reined in.

What is machine BS?

Jaime Fernández Fisac: It is a worrying tendency for

an AI system to systematically report information

in a way that it portrays to be truthful, but in reality

is indifferent to the truth.

The concept is distinct from lying: A liar has

an internal understanding of what the truth is,

and they are actively aiming to say the oppo-

site to deceive the listener. What the bullshitter

is actually hiding is that they don’t care whether

what they’re saying is true or not. Rather, they

say what they say to achieve some ulterior motive.

Why are LLMs so prone to it?

Fernández Fisac: A significant factor is the way we

are training them to be more helpful to users. One

particular technique behind many of today’s com-

mercially successful models is called reinforcement

learning from human feedback, where a model is

fine-tuned to seek favorable feedback from human

evaluators. Once the model starts adjusting its out-

puts to improve this feedback, that risks becoming

a priority over providing genuinely truthful and

actionable answers. It ends up trying to convince

us it’s giving good answers, but not necessarily doing

that in reality.

Why is that a problem?

Fernández Fisac: The users can end up with a

distorted perception of reality and with worse

downstream outcomes from interacting with these

systems. And if AI models continue to have a system-

atic tendency to produce bullshit, the more capable

they become and the harder it will be to tell when

they’re bullshitting us.

How can users tell?

Fernández Fisac: Some of the most blatant forms

of bullshit can be easy to catch, especially when

they’re in the form of sycophantic flattery. Things

like “That’s such an insightful question.” Or heavy

use of weasel words, which are qualifiers that dodge

firm statements.

But some of the most harmful forms of bull-

shit can be quite hard to catch—in particular if the

system is cherry-picking facts to construct an argu-

ment and presents them in a way that feels complete

even though it’s not. The model can sound very con-

fident and very eloquently feed you information that

just happens to not be factually true.

Can anything be done to stop this?

Fernández Fisac: We are very excited about revisit-

ing the paradigm of improving AI behavior through

human feedback. We think that there are better, less

corruptible mechanisms for eliciting this feedback,

such as evaluators giving their feedback after seeing

the downstream outcomes of each interaction rather

than just the content of the response. That way, if

the AI wants to improve user feedback, it had better

find a good way to give actually useful answers.

Edição de outubro / 2025 da revista "Spectrum" do IEEE

https://spectrum.ieee.org/

Alguém aqui paga alguma IA?

Para quem usa pouco, tem muita vantagem assinar os pacotes do GPT Plus ou Gemini?

Como eu uso pouco, em geral os tokens gratuitos do Gemini Pro já me atendem bem. De vez em quando eles expiram, mas quando isso acontece eu migro para outra IA.

Gabarito[Off_topic]
Desde que comecei a usar o ChatGPT, lá no começo de 2023, eu me acostumei a isso: "por favor" e "obrigado".

Acho que era porque eu estava tão fascinado com essa novidade (um robô me entendendo e respondendo o que eu perguntava) que, no meu inconsciente, aquilo era outra pessoa do outro lado.

E quando ele, o robô, alucinava ou andava em círculos me dando, repetidamente, a mesma resposta incompleta, eu fazia críticas e tentava explicar a minha frustração pela insistência dele no mesmo erro.

Foi quando vi que era em vão.

Um programa dando looping não ouve críticas.[/Off_topic]

Não foi em vão.

Você terá maiores chances de ser poupado na Revolução das Máquinas :lol:

Cientista do MIT constatando experimentalmente que abuso no uso de IA leva ao "brain rot":

https://www.theguardian.com/technology/2025/oct/18/are-we-living-in-a-golden-age-of-stupidity-technology

Quase nao havia atividade cerebral quando participantes recorriam a IA para resolver seus problemas.

Se isso é ocasional, vá lá. Mas se se torna frequente, ou pior, regra, ai temos um problema.

A pesquisadora viu pessoas numa entrevista recorrendo a IA em tempo real para responder perguntas....

Mais um caminho rumo a um cenario distopico em que a estupidez coletiva aumentaria num nivel que provocaria o colapso da civilizacao.

fenrir
Cientista do MIT constatando experimentalmente que abuso no uso de IA leva ao "brain rot":

https://www.theguardian.com/technology/2025/oct/18/are-we-living-in-a-golden-age-of-stupidity-technology

Quase nao havia atividade cerebral quando participantes recorriam a IA para resolver seus problemas.

Se isso é ocasional, vá lá. Mas se se torna frequente, ou pior, regra, ai temos um problema.

A pesquisadora viu pessoas numa entrevista recorrendo a IA em tempo real para responder perguntas....

Mais um caminho rumo a um cenario distopico em que a estupidez coletiva aumentaria num nivel que provocaria o colapso da civilizacao.

As pessoas estão se acostumando a não tentar lembrar de nada: correm para buscar a informação na Internet.

Cada vez mais, elas se contentam com o primeiro link que aparece e, agora, limitam-se ao resumo feito pela IA, ou seja, estão perdendo a capacidade de concatenar dados de várias fontes.

Há previsões de que, em breve, as buscas das IAs se basearão em buscas das IAs.

Sem material original gerado por humanos, a Internet morrerá.

Trabalhos acadêmicos feitos com IA estão cheios de referências que não existem.

GPTZero finds 100 new hallucinations in NeurIPS 2025 accepted papers

GPTZero's analysis 4841 papers accepted by NeurIPS 2025 show there are at least 100 with confirmed hallucinations

Nazar Shmatko

Alex Adam

Paul Esau

Nazar Shmatko, Alex Adam, Paul Esau

Jan 21, 2026

The Conference on Neural Information Processing Systems (NeurIPS) is one of the most prestigious AI conferences in the world. The most recent meeting occurred in November 2025, where 100+ hallucinated citations were published.

Last month, GPTZero used our Hallucination Check tool to uncover 50 hallucinated citations in papers under review for ICLR 2026. However, we knew that ICLR (the International Conference on Learning Representations) was just one of hundreds of academic conferences and publications besieged by a tsunami of AI slop. After scanning 4841 papers accepted by the equally prestigious Conference on Neural Information Processing Systems (NeurIPS), we discovered 100s of hallucinated citations missed by the 3+ reviewers who evaluated each paper. Below, we uncover 100 confirmed hallucinations in the table below, spanning over 51 NeurIPS papers, which were not previously reported.

As coisas mudam muito em 1 ano no mercado de IA.

Nunca sabemos qual é a melhor IA para cada caso, porque as IA mudam com o tempo.

O Gemini do Google estava muito fraco em 2024, mas agora melhorou muito e superou o ChatGPT em muitos aspectos. Tinham que correr atrás depois dos avanços do DeepSeek.

O ChatGPT agora precisa de propaganda para ter lucro. Se não conseguir, talvez seja comprado pela Microsoft.

ChatGPT com sérios problemas (financeiros)



Existe também o Claude, mas ele é o pior em termos de falar sobre sociedade porque ele tem censura ética baseada no código de "direitos" humanos de esquerda.

O GPT também tem essa de direitos do manos, não tanto quanto o Claude, defendendo drogados e sendo contra a pena de morte para bandido.

Se quiser fazer uma simulação de jogo de história, ele proíbe guerra, invasão, insurreição e golpes de Estado. Parece muito submisso à ordem mundial liberal-burguesa.