Исследователи назвали ответы ChatGPT Search «уверенно неверными»

Исследование, проведенное в Колумбийском университете, показало, что ChatGPT Search не всегда предоставляет точные ответы на запросы пользователей.

Авторы исследования выбрали 20 публикаций из трех категорий: тех, кто сотрудничает с OpenAI, тех, кто подал на них в суд, и непартнерских издателей. Они проанализировали 10 статей из каждой публикации и использовали цитаты для проверки точности ответов ChatGPT.

Результаты выявили 153 неверных ответа; при этом лишь семь раз ChatGPT осознано уточнил свою неточность. Например, AI неверно указал авторство статьи из Time, приписав её изданию Orlando Sentinel.

OpenAI ответило, что результаты исследования могут быть вызваны неправильной методологией и пообещало улучшить качество ответов своего продукта.

AI, технология, исследование