OpenAI запустила программу багбаунти в своих ИИ-сервисах с вознаграждением до $20 тыс

OpenAI запустила программу багбаунти в своих ИИ-сервисах с вознаграждением до $20 тыс. Приём отчётов, а также выплата вознаграждений этичным хакерам за поиски уязвимостей в ПО, API и IT-системах OpenAI будет производиться на базе платформы безопасности Bugcrowd.

OpenAI пояснила, что выплатит от $200 $6500 за каждую найденную уязвимость при условии неразглашения в течение 90 суток информации о проблеме после предоставления отчёта группе безопасности OpenAI.

В случае «исключительного открытия» в рамках правил багбаунти OpenAI пообещала выплатить до $20 тыс. Компания не будет принимать отчёты про то, что чат-бот ChatGPT может писать вредоносный код, говорить плохие вещи или галлюцинировать. За уязвимость не считаются джейлбрейки и обходы безопасности, которые пользователи ChatGPT используют, чтобы заставить чат-бота игнорировать меры безопасности, реализованные инженерами OpenAI. Но даже в этом случае компания попросила исследователей сообщать через отдельную форму о проблемах в работе ИИ-моделей.

25 марта OpenAI признала, что сбой с публикацией историй запросов пользователей чат-бота ChatGPT произошёл из-за некорректного использования и ошибки в клиенте Redis открытой библиотеки redis-py. Разработчики выяснили, что из-за бага также произошло непреднамеренное отображение третьим лицам платёжной информации и персональных данных 1,2% подписчиков сервиса ChatGPT Plus.

20 марта OpenAI приостановила работу ChatGPT почти на 4 часа из-за утечки диалогов пользователей и потери истории переписки пользователей с чат-ботом.

OpenAI пояснила, что в IT-сервисах компании произошёл инцидент из-за бага в стороннем ПО с открытым исходным кодом (без уточнения названия ПО). В итоге некоторое время одни пользователи в веб-интерфейсе ChatGPT могли видеть часть бесед ChatGPT других пользователей. Также из-за сбоя произошла потеря истории разговоров части пользователей.