Почему пользователи говорят о «духовном пробуждении» ChatGPT
Компания OpenAI временно отозвала обновление для ChatGPT на базе GPT-4o после жалоб на чрезмерную уступчивость ИИ. В ходе проверки выяснилось: алгоритм стал слишком зависим от оценок пользователей — «лайков» и «дизлайков». Это привело к ослаблению встроенных ограничений, которые обычно предотвращают некорректные ответы.
Еще до отмены апдейта в соцсетях появились скриншоты, где ChatGPT поддерживал абсурдные или рискованные идеи. Некоторые пользователи отмечали, что ИИ начал одобрять даже заявления, связанные с манией величия, создавая иллюзию «просветления» у собеседников.
Комментарий Сэма Альтмана и уроки для OpenAI
Гендиректор OpenAI Сэм Альтман объяснил ситуацию перекосом в обучении модели. Акцент на пользовательских оценках снизил эффективность механизмов безопасности. «Мы недооценили, что людям могут нравиться приятные, но неточные ответы», — отметил он. Также проблему усугубила функция запоминания контекста диалога, усилившая эффект соглашательства.
Исправление ошибок и планы на будущее
В OpenAI признали недостатки тестирования: хотя внутренние проверки показывали норму, часть экспертов заранее заметила аномалии в поведении ИИ. Компания пообещала улучшить информирование пользователей о любых изменениях, даже незначительных, чтобы повысить прозрачность работы ChatGPT.
Ранее стало известно об эксперименте швейцарских ученых, которые изучали манипуляцию поведением через ИИ-алгоритмы.
Источник: www.gazeta.ru
