Sim, isso provavelmente não é excessivamente surpreendente, mas ainda serve como um lembrete útil quanto às limitações da onda atual de ferramentas de pesquisa de IA generativas, que os aplicativos sociais agora estão pressionando você a usar a cada passo.
De acordo com um Novo estudo realizado por tele reboque para o jornalismo digitala maioria dos principais mecanismos de busca de IA não fornece citações corretas de artigos de notícias dentro das consultas, com as ferramentas geralmente inventando links de referência ou simplesmente não fornecendo uma resposta quando questionados em uma fonte.
Como você pode ver neste gráfico, a maioria dos principais chatbots da IA não foi particularmente boa em fornecer citações relevantes, com o Grok Chatbot de Xai, que Elon Musk divulgou como o Ai “mais verdadeiro”estar entre os recursos mais imprecisos ou não confiáveis a esse respeito.
De acordo com o relatório:
““No geral, os chatbots forneceram respostas incorretas para mais de 60% das consultas. Em diferentes plataformas, o nível de imprecisão variou, com perplexidade respondendo 37% das consultas incorretamente, enquanto o GROK 3 teve uma taxa de erro muito mais alta, respondendo 94% das consultas incorretamente.”
Em outra frente, o relatório constatou que, em muitos casos, essas ferramentas muitas vezes eram capazes de fornecer informações de fontes que foram trancadas para raspar a IA:
“Em algumas ocasiões, os chatbots responderam incorretamente ou se recusaram a responder consultas de editores que lhes permitiram acessar seu conteúdo. Por outro lado, às vezes eles responderam corretamente a perguntas sobre editores cujo conteúdo não deveria ter tido acesso. ”
O que sugere que alguns provedores de IA não estão respeitando o comandos robots.txt Isso os impedem de acessar trabalhos protegidos por direitos autorais.
Mas a preocupação da linha superior refere -se à confiabilidade das ferramentas de IA, que estão sendo cada vez mais usadas como mecanismos de pesquisa por um número crescente de usuários da Web. De fato, muitos jovens agora estão crescendo com o ChatGPT como ferramenta de pesquisa de escolha, e idéias como esse mostram que você simplesmente não pode confiar nas ferramentas de IA para fornecer informações precisas e educá -lo sobre os principais tópicos de maneira confiável.
Claro, isso não é novidade, como tal. Qualquer um que tenha usado um chatbot da AI saberá que as respostas nem sempre são valiosas ou utilizáveis de forma alguma. Mas, novamente, a preocupação é mais do que estamos promovendo essas ferramentas como um substituto para pesquisas reais e um atalho para o conhecimento e para usuários mais jovens em particular, isso pode levar a uma nova era de pessoas mal informadas e menos equipadas, que terceirizam sua própria lógica a esses sistemas.
Empresário Mark Cuban Resumiu esse problema com bastante precisão Em uma sessão no SXSW nesta semana:
“Ai nunca é a resposta. Ai é a ferramenta. Quaisquer que sejam as habilidades que você tenha, você pode usar a IA para ampliá -las. ”
O argumento do cubano é que, embora as ferramentas de IA possam lhe dar uma vantagem, e todos devem considerar como eles podem usá -las para melhorar seu desempenho, elas não são soluções em si mesmas.
A IA pode criar vídeo para você, mas não pode criar uma história, que é o elemento mais atraente. A IA pode produzir código que ajudará você a criar um aplicativo, mas não pode criar o próprio aplicativo real.
É aqui que você precisa de suas próprias habilidades e habilidades de pensamento crítico para expandir esses elementos para algo maior e, embora os resultados da IA definitivamente ajudem a esse respeito, eles não são uma resposta em si mesmos.
A preocupação nesse caso em particular é que estamos mostrando aos jovens de que as ferramentas de IA podem dar a eles respostas, nas quais a pesquisa mostrou repetidamente que não é particularmente boa.
O que precisamos é que as pessoas entendam como esses sistemas podem estender suas habilidades, não substituí -los e que, para tirar o máximo proveito desses sistemas, primeiro você precisa ter pesquisas importantes e habilidades analíticas, bem como a experiência em campos relacionados.