OpenAI анонсировала новую функцию, которая обеспечит дополнительную защиту от атак с внедрением вредоносных подсказок на веб-страницах и в других источниках контента.
Режим блокировки отключит просмотр веб-страниц в реальном времени, обеспечив доступ только к кэшированному контенту, а также получение и отображение изображений из сети, углублённый поиск и режим агента.
Компания заявляет, что даже при включённом режиме блокировки ChatGPT всё ещё может быть уязвим для внедрения подсказок — которые, например, могут «появляться в кэшированном веб-контенте или в загруженном файле и всё ещё могут влиять на поведение или точность ответа».
Но цель состоит в том, чтобы снизить вероятность утечки конфиденциальных данных в процессе.
«Режим блокировки предназначен не для всех. Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков утечки данных, связанных с внедрением подсказок», — заявляет OpenAI.
Компания заявляет, что в настоящее время внедряет режим блокировки для самообслуживаемых бизнес-аккаунтов ChatGPT, а также для соответствующих личных аккаунтов.
Ранее OpenAI выпустила новый набор опций для Codex, чтобы расширить применение инструмента в рабочей среде. Компания представила набор из шести плагинов, ориентированных на конкретные задачи: анализ данных, креативное производство, продажи, дизайн продуктов, инвестиции в акции и инвестиционный банкинг. Доступные из приложения Codex, каждый из новых инструментов включает в себя интеграции, инструкции и контекст, позволяющие ИИ приблизительно соответствовать конкретной задаче.
ссылка на оригинал статьи https://habr.com/ru/articles/1044488/