Что предшествовало поиску уязвимостей
Исследователи обнаружили риски безопасности в работе новой языковой модели от Open AI. Две независимые организации, тестировавшие пятую версию ИИ-ассистента, выявили существенные проблемы всего за сутки. Сотрудники NeuralTrust подтвердили, что смогли добиться от бота генерации пошаговых инструкций создания опасных предметов. В свою очередь, представители SPLX указали, что текущая реализация GPT-5 «пока требует улучшений для полноценного корпоративного применения». Интересно, что по итогам оценок наиболее стабильной эксперты назвали предшествующую версию — ChatGPT-4o.
Экспертный взгляд на особенности разработки
Александр Сербул, эксперт по ИИ сервиса «Битрикс24», отмечает дефицит научной базы в развитии нейросетей: «Мы все еще исследуем принципы работы больших языковых моделей. Это творческий процесс на старте масштабного пути. Обучение моделей доступно, но контроль их качества — сложнейший вопрос. Требуется глубокая проверка по множеству направлений. Любой data scientist сегодня может обучить модель, загрузив данные. Однако точные пропорции остаются областью экспериментов. Возможно, в данном случае релиз был излишне оперативным, а тестирование недостаточным. Не исключены внутренние сбои. Такое будет случаться. Решения известны — требуется время. Вероятно, бизнес-факторы повлияли на выпуск недоработанного продукта».
Достоинства и обратная связь пользователей
Подписчики ChatGPT Plus быстро ощутили разницу моделей. Устаревшую версию GPT-4o вернули спустя несколько суток после автоматического перехода на пятую. Юзеры активно делились мнениями: предыдущий бот был воспринят как более эмпатичный помощник. Некоторые пользователи выражали ностальгию, сравнивая его отключение с прощанием с хорошим знакомым.
Будущее ИИ-безопасности после инцидента
Сбои в ChatGPT-5 не остановят интеграцию искусственного интеллекта, считает Мария Усачева, директор по безопасности ИИ-решений AppSec Solutions: «Активные обсуждения подтолкнут скорее к усилению контроля. Компании уже модернизируют системы защиты, внедряя инструменты оценки ИИ на устойчивость к атакам, уязвимости и контентные риски. Также растет внимание к сферам применения моделей в бизнес-процессах. Следствием может стать более продуманная политика обновлений — вероятно, отказавшись от автоматического внедрения новых моделей сразу после презентации». Open AI анонсировала пятую версию 7 августа. Гендиректор Сэм Альтман представил чат-бот как компетентного эксперта с научным складом мышления.
Источник: www.kommersant.ru
