Глава NVIDIA говорит, что решение проблем с «галлюцинациями ИИ» займет несколько лет
Генеральный директор NVIDIA Дженсен Хуанг говорит, что сегодняшний искусственный интеллект (ИИ) не дает лучших ответов, и что отрасль все еще находится "в нескольких годах от" ИИ, которому мы сможем "в значительной степени доверять", пишет Business Insider.
Что касается проблемы галлюцинаций, или тенденции ИИ выдавать ложные, но правдоподобные ответы, руководитель самой дорогой компании в мире считает, что люди не должны сомневаться в ответе ИИ, задаваясь вопросом, "галлюцинация это или нет", "разумно это или нет".
Большие языковые модели, такие как ChatGPT, за последние несколько лет значительно продвинулись в своей способности отвечать на сложные вопросы, но у них все еще есть ограничения.
Галлюцинации, или предоставление ложных, или фиктивных ответов, являются одной из постоянных проблем чат-ботов ИИ. Так, например, был случай, когда американский юрист использовал в суде фиктивные цитаты, сгенерированные ChatGPT. Позже выяснилось, что чат-бот OpenAI в своих ответах ссылался на несуществующие дела.
Глава NVIDIA предложил обязать языковые системы изучать и подтверждать ответы из достоверных источников перед выдачей результата. По его словам, этот процесс может быть похожим на "фактчекинг" в журналистике: сравнить факты из источников с известными истинами, и если ответ частично неточен – отбросить весь источник.
| Комментарии (0) |