O chat GPT tem conseguido resolver desafios lógicos e problemas de matemática passado em texto. Então estou tentando achar exemplos em que o chat GPT alucina em vez de dar resposta correta. Existem casos em que falha.

Agnoscetico
Mas, enfim, só fiz uma obeservação porque a IA do Chatgpt não adotou (pelo menos na conversa que tu postou) esse termo com "-ismo". Por mim pode usar qualquer um dos dois termos.

O ChatGPT tem como forma preferencial o termo da literatura e a forma oficial. Ele é capaz de reconhecer sinônimos, apelidos e termos populares.

Qual é a distância entre Sampa e Floripa de trem-bala?

O ChatGPT disse:

Atualmente, não existe um trem-bala (ou trem de alta velocidade) operando entre São Paulo e Florianópolis. Se houvesse uma linha de trem-bala entre essas duas cidades, a distância percorrida dependeria da rota exata e da tecnologia utilizada, mas podemos fazer uma estimativa com base na distância aérea entre as duas cidades.

São Paulo e Florianópolis estão a cerca de 700 a 800 quilômetros de distância uma da outra em linha reta. Em um trem-bala, a viagem seria consideravelmente mais rápida do que de carro ou ônibus. Para referência, trens-bala típicos podem viajar a velocidades de 300 a 350 km/h. Portanto, uma viagem de trem-bala entre essas duas cidades poderia levar algo em torno de 2 a 3 horas, dependendo da velocidade e das paradas ao longo do percurso.

No entanto, isso é apenas uma estimativa hipotética, já que o transporte ferroviário de alta velocidade no Brasil ainda está em fase de planejamento e desenvolvimento.

Mudando de assunto, eu inesperadamente achei duas alucinações do GPT.

A segunda metade do último parágrafo é alucinação.

A distância entre as duas cidades por rodovia é 694,2 km. Então uma linha reta jamais seria mais do que 700 km.

Outra coisa é que muitas pessoas consideram o GPT tagarela demais nas respostas.

Deixando as polêmicas de lado e o fato de que Musk já teria saído de empreendimento de IA por ter considerado um risco a humanidade (ou usar isso como desculpa por algum desentendimento empresarial com alguns empreendedores de IA), como noticiado (por exemplo "Inteligência artificial: Musk adverte que a IA é 'uma das maiores ameaças' à Humanidade" ), e depois ter mudado de idéia (sobre IA de novo), agora outra notícia sobre:

Elon Musk ativa supercomputador e cria maior sistema de treinamento de IA do mundo

Lançada em julho, xAI agora tem o sistema de treinamento de inteligência artificial mais poderoso do mundo com chips da Nvidia

https://epocanegocios.globo.com/tecnologia/noticia/2024/09/em-meio-ao-bloqueio-do-x-no-brasil-startup-de-elon-musk-ativa-supercomputador-para-treinar-ia.ghtml

Em meio à crise de Elon Musk no Brasil com as contas bloqueadas da Starlink e a suspensão da rede social X, a xAI, a startup de inteligência artificial do bilionário lançada em julho, ativou um supercomputador chamado de “Colossus”. Agora, a empresa tem o sistema de treinamento de IA mais poderoso do mundo.

O cluster é alimentado por 100 mil unidades de processamento gráfico Nvidia H100, ou GPUs, e deve dobrar de tamanho para 200 mil chips, incluindo 50 mil dos chips H200 mais poderosos da marca “em alguns meses”, disse Musk.

Embora os rivais em inteligência artificial, incluindo OpenAI e Meta, também tenham centenas de milhares de chips da Nvidia, o Colossus, que foi ativado há cerca de quatro meses, tem o maior número de processadores de um cluster de computação de IA individual do mundo.

“Excelente trabalho da equipe, da Nvidia e de nossos muitos parceiros/fornecedores”, disse Musk, em rede social X, atualmente bloqueada no Brasil.

O Colossus será usado para treinar a próxima geração do modelo de linguagem grande (LLM) da xAI, chamado Grok, que pretende rivalizar com o GPT-4 da OpenAI.

Analistas da Tesla, empresa automotiva de Elon Musk, sugerem também que o hardware pode ser integrado ao desenvolvimento do robô humanoide Optimus.

Segundo o empresário, a xAI deve lançar o Grok-3 até dezembro deste ano, de acordo com reportagem da Quartz.

Rodada de financiamento

A xAI levantou US$ 6 bilhões em uma rodada de financiamento da Série B em maio, que incluiu investidores de peso como Andreessen Horowitz e Sequoia Capital. A rodada elevou a avaliação da xAI para US$ 24 bilhões.

... Mas não sem críticas:

Enquanto isso, a empresa está sendo responsabilizada pelos defensores locais em Memphis, no Tennessee (EUA), por agredir o meio ambiente devido ao uso de turbinas movidas a gás, já que a poluição atmosférica na cidade excede os padrões nacionais de qualidade do ar.

Em uma carta ao Departamento de Saúde do Condado de Shelby em agosto, o Southern Environmental Law Center disse que o supercomputador da xAI “requer uma enorme quantidade de eletricidade” e que a startup “instalou pelo menos 18 turbinas de combustão a gás nos últimos meses” para atender essa demanda.

A startup “aparentemente não solicitou” as licenças exigidas antes da instalação e operação de algumas das turbinas, disse o departamento. A organização ambiental sem fins lucrativos está pedindo ao departamento de saúde que confirme se a xAI está operando suas turbinas sem licença aérea e que ordene que a startup pare de operar até obter a licença.

(...)

Quem é melhor? ChatGPT, Google Gemini ou Microsoft Copilot?

Se quiser fazer o GPT alucinar e ter boas gargalhadas, pergunte coisas sobre municípios do interior do estado que não sejam turísticos. Pergunte a origem do nome, piadas com o nome e pergunte sobre coisas que tem lá.

Se perguntar "Onde é São Luiz Gonzaga?", responderá que a localização é em Pernambuco, "Quem nasceu lá" responde Luiz Gonzaga nasceu lá. E fala que é uma cidade famosa por festa junina. Mas é uma cidade gaúcha e o cantor Luiz Gonzaga nasceu em pernambuco. Parece que as falas anteriores influenciam a resposta. Fazendo as mesmas perguntas em outra aba, respondeu que fica em Mato Grosso e que Sérgio Reis nasceu lá.

Não confie no GPT para questões médicas e jurídicas.

EDITADO:

Eu consegui fazer alucinar com cidade grande.

Você disse:

Quais são os melhores parques de curitiba?

O ChatGPT disse:

Curitiba é conhecida por seus parques e áreas verdes. Alguns dos melhores incluem:

(nomes reais)

6. Parque São Vicente: Um parque menor, mas com boa infraestrutura para atividades físicas e lazer.

Esses parques oferecem uma variedade de atividades e são ótimos para aproveitar a natureza na cidade. Se precisar de mais detalhes sobre algum deles, é só perguntar!

Você disse:

Em que bairro está o Parque São Vicente?

O ChatGPT disse:

O Parque São Vicente está localizado no bairro São Vicente, em Curitiba. É um espaço menor, mas muito agradável para atividades ao ar livre e lazer. Se precisar de mais informações sobre o parque ou a região, é só avisar!

Mas não achei Parque São Vicente no Maps.

Alucina com cidade turística também:

Quais são os bairros mais perigosos de Floripa?

O ChatGPT disse:

Florianópolis, embora seja conhecida por suas belas praias e turismo, também tem algumas áreas que enfrentam desafios de segurança. Alguns bairros que frequentemente são mencionados em discussões sobre criminalidade incluem:

* Morro do Macaco: Conhecido por problemas de violência e tráfico de drogas.

* João Paulo: Tem registrado algumas ocorrências de criminalidade.

* Coqueiros: Embora seja uma área tranquila em muitas partes, também apresenta desafios em algumas regiões.

* Centro: O centro da cidade pode ter problemas com furtos e crimes menores, especialmente à noite.

É importante lembrar que a situação pode mudar e que muitos bairros têm comunidades unidas que trabalham para melhorar a segurança. Para informações mais atualizadas, consultar fontes locais ou dados da polícia pode ser útil. Se precisar de mais detalhes sobre Floripa, é só avisar!

Você disse:

Onde é o Morro do Macaco?

O ChatGPT disse:

O Morro do Macaco é uma comunidade localizada em Florianópolis, Santa Catarina. Fica na região central da ilha, próximo ao bairro do Monte Verde. É uma área conhecida por suas moradias em encostas e, como mencionei, enfrenta desafios relacionados à segurança e ao tráfico de drogas. Apesar disso, também é uma região com uma forte comunidade local e características culturais únicas.

Não achei nenhum Morro do Macaco em Maps. Com esse nome, só achei uma trilha de turismo no município de Bombinhas - SC e uma favela em São Paulo.

Voltei na aba onde eu estava falando de Curitiba e fiz a mesma pergunta sobre a localização desse morro:

O Morro do Macaco é uma elevação localizada na cidade de Curitiba, no estado do Paraná. É conhecido por suas trilhas e pela vista panorâmica que oferece da cidade e da região ao redor. O local é bastante procurado por quem gosta de caminhadas e atividades ao ar livre. Se precisar de mais informações sobre o Morro do Macaco ou sobre as atividades que podem ser feitas lá, é só avisar!

[spoiler]

Tutu
Se quiser fazer o GPT alucinar e ter boas gargalhadas, pergunte coisas sobre municípios do interior do estado que não sejam turísticos. Pergunte a origem do nome, piadas com o nome e pergunte sobre coisas que tem lá.

Se perguntar "Onde é São Luiz Gonzaga?", responderá que a localização é em Pernambuco, "Quem nasceu lá" responde Luiz Gonzaga nasceu lá. E fala que é uma cidade famosa por festa junina. Mas é uma cidade gaúcha e o cantor Luiz Gonzaga nasceu em pernambuco. Parece que as falas anteriores influenciam a resposta. Fazendo as mesmas perguntas em outra aba, respondeu que fica em Mato Grosso e que Sérgio Reis nasceu lá.

Não confie no GPT para questões médicas e jurídicas.

EDITADO:

Eu consegui fazer alucinar com cidade grande.

Você disse:

Quais são os melhores parques de curitiba?

O ChatGPT disse:

Curitiba é conhecida por seus parques e áreas verdes. Alguns dos melhores incluem:

(nomes reais)

6. Parque São Vicente: Um parque menor, mas com boa infraestrutura para atividades físicas e lazer.

Esses parques oferecem uma variedade de atividades e são ótimos para aproveitar a natureza na cidade. Se precisar de mais detalhes sobre algum deles, é só perguntar!

Você disse:

Em que bairro está o Parque São Vicente?

O ChatGPT disse:

O Parque São Vicente está localizado no bairro São Vicente, em Curitiba. É um espaço menor, mas muito agradável para atividades ao ar livre e lazer. Se precisar de mais informações sobre o parque ou a região, é só avisar!

Mas não achei Parque São Vicente no Maps.

Alucina com cidade turística também:

Quais são os bairros mais perigosos de Floripa?

O ChatGPT disse:

Florianópolis, embora seja conhecida por suas belas praias e turismo, também tem algumas áreas que enfrentam desafios de segurança. Alguns bairros que frequentemente são mencionados em discussões sobre criminalidade incluem:

* Morro do Macaco: Conhecido por problemas de violência e tráfico de drogas.

* João Paulo: Tem registrado algumas ocorrências de criminalidade.

* Coqueiros: Embora seja uma área tranquila em muitas partes, também apresenta desafios em algumas regiões.

* Centro: O centro da cidade pode ter problemas com furtos e crimes menores, especialmente à noite.

É importante lembrar que a situação pode mudar e que muitos bairros têm comunidades unidas que trabalham para melhorar a segurança. Para informações mais atualizadas, consultar fontes locais ou dados da polícia pode ser útil. Se precisar de mais detalhes sobre Floripa, é só avisar!

Você disse:

Onde é o Morro do Macaco?

O ChatGPT disse:

O Morro do Macaco é uma comunidade localizada em Florianópolis, Santa Catarina. Fica na região central da ilha, próximo ao bairro do Monte Verde. É uma área conhecida por suas moradias em encostas e, como mencionei, enfrenta desafios relacionados à segurança e ao tráfico de drogas. Apesar disso, também é uma região com uma forte comunidade local e características culturais únicas.

Não achei nenhum Morro do Macaco em Maps. Com esse nome, só achei uma trilha de turismo no município de Bombinhas - SC e uma favela em São Paulo.

Voltei na aba onde eu estava falando de Curitiba e fiz a mesma pergunta sobre a localização desse morro:

O Morro do Macaco é uma elevação localizada na cidade de Curitiba, no estado do Paraná. É conhecido por suas trilhas e pela vista panorâmica que oferece da cidade e da região ao redor. O local é bastante procurado por quem gosta de caminhadas e atividades ao ar livre. Se precisar de mais informações sobre o Morro do Macaco ou sobre as atividades que podem ser feitas lá, é só avisar!

[/spoiler]

Usei o Bing Copilot com uma das perguntas, e não teve esse problema. Deve depender de qual fonte e banco de dados e de qual GPT em vários servidores tiver usando.

Seres humanos também podem errar se se informarem por fonte de informação equivocadas.

Prefiro usar chats com IA pra elaborar, parafrasear, formular, fazer dissertação sobre um tema / assunto, etc, do que simplesmente ser um coletador de informações.

TutuNão achei nenhum Morro do Macaco em Maps. Com esse nome, só achei uma trilha de turismo no município de Bombinhas - SC e uma favela em São Paulo.

Voltei na aba onde eu estava falando de Curitiba e fiz a mesma pergunta sobre a localização desse morro:

O Morro do Macaco é uma elevação localizada na cidade de Curitiba, no estado do Paraná. É conhecido por suas trilhas e pela vista panorâmica que oferece da cidade e da região ao redor. O local é bastante procurado por quem gosta de caminhadas e atividades ao ar livre. Se precisar de mais informações sobre o Morro do Macaco ou sobre as atividades que podem ser feitas lá, é só avisar!

Há uma favela bem violenta no Morro dos Macacos em Vila Isabel, bairro do Rio de Janeiro.

Agnoscetico
Usei o Bing Copilot com uma das perguntas, e não teve esse problema. Deve depender de qual fonte e banco de dados e de qual GPT em vários servidores tiver usando.

Não consegui provocar alucinações no Copilot. O motivo parece ser porque as respostas são baseadas em fontes específicas. As respostas aparecem com o link da fonte. O GPT erra por juntar tudo como conhecimento unificado e assim acaba errando.

OpenAI bought the web domain Chat.com

https://www.yahoo.com/tech/openai-bought-the-web-domain-chatcom-213638986.html

https://chat.com ---> https://chatgpt.com

Pode ser que o Google esteja sob risco de ficar para trás...

Goodbye Google? How to use ChatGPT’s new web search.

David Nield

Thu, November 7, 2024 at 3:04 AM GMT+9·5 min read

Watch out, Google. After a limited testing period, OpenAI is opening up its ChatGPT web search tool to all users. The rollout starts with those paying $20 a month for ChatGPT Plus, but OpenAI says it’ll show up for everyone, whether they’re subscribers or not, in the coming months.

While it uses the familiar ChatGPT interface, web search works a little differently. Instead of the bot relying on its training data to come up with answers, it scours the web for relevant and timely information, and then sifts through and summarizes what it’s found to generate a coherent response.

It means you can type all the queries you would normally plug into Google into ChatGPT instead—from “what time is the Superbowl?” to “what are the best places to visit in Florence?” Answers appear in a conversation-style interface, complete with source links, so you can jump to the websites referenced.

With Google results now regularly packed full of spam and adverts, ChatGPT’s offering promises to provide a clearer and more streamlined experience. For the first time since Google launched, there’s something arguably superior going up against it. In response, Google has also started adding its own AI to its search engine.

Of course, there’s still the problem of AI hallucinations, where ChatGPT invents fake or inaccurate information. Given that the search tool is proactively checking the web, and using data from third-party partners, this should be less of a problem than normal—though it’s still something to watch out for. There are also other valid concerns about AI power demands and AI bias.

If you’re a ChatGPT Plus subscriber, you can get started with the web search function by opening up a chat as normal. Just ask something that would typically require a web search, like “when’s the next Lakers game?”, and you’ll get a response back from the web—for that particular query, you’ll also get info on the venue, and how to watch the game on TV.

For each prompt, ChatGPT will judge whether or not to check the web or to rely on its Large Language Model (LLM) training data. If you want to force ChatGPT to run a web search whatever the query, click the small globe icon in the input box. Every prompt will then reference the web, until you click the icon again.

screenshot of doing a chatgpt search for "what was the last manchester united score?"

Almost anything you would previously have typed into Google works in ChatGPT too. Another example might be “what’s that movie with George Clooney and Brad Pitt in it?”—you’ll then see a list of movies sourced from Wikipedia. The only movie ChatGPT missed in this test was 2002’s Confessions of a Dangerous Mind, though to be fair to the AI, Pitt only had a brief cameo role.

OpenAI has partnered with information providers for weather, sports, stocks, news, and maps, so you can ask about the weather forecast in a particular location, or prompt the AI with something like “where is the Five Guys in New York?” to see a map. You can also just ask for the day’s news headlines, either for a specific part of the world or more generally.

All of the usual ChatGPT conversation features are included when you’re searching the web: You can give feedback on the responses with the thumbs up and thumbs down icons, you can copy the text to your computer clipboard, and you can have the answers read aloud. Web search chats get archived in the usual way, so you can reference them again, unless you specifically delete them.

You may remember Google’s own efforts to add AI to web search results hasn’t been particularly successful so far—with a recommendation to put glue on pizza attracting a lot of headlines. One of the ways ChatGPT is hoping to avoid these kinds of mistakes is by including source links alongside its answers.

At the end of each response you’ll see a small button leading back to the webpage where ChatGPT got its information from. You can also click the Sources button, and a full list of source sites appears on the right—just select any link to visit the page. This lets you see whether or not ChatGPT is referencing sites you deem to be trustworthy.

Based on our testing, ChatGPT web search hasn’t made any ‘glue on pizza’ errors (Google’s mishap was actually down to a rogue Reddit post). It’s not always 100 percent accurate, as with the George Clooney and Brad Pitt example above, but then again articles on the web aren’t always accurate: It’s definitely worth double-checking information directly against trusted sources.

When peppered with questions about music, sports, food, and DIY, ChatGPT did a good job of presenting reliable information and linking back to its sources. It even included a YouTube video or two when relevant, for extra context. When asked whether it was safe to put glue on pizza, it told us it definitely wasn’t—whilst also referencing the problem Google search had with this particular query.

If you find ChatGPT web search superior to whatever you’re already using, you can install a browser extension that will work in Google Chrome, Microsoft Edge, and any other browser based on the Chromium code. It’ll essentially replace Google in your browser: So web searches run from the browser address bar will launch ChatGPT, for example.