Новости Секретные инструкции GPT-5 попали в сеть — теперь каждый может заглянуть в «чёрный ящик»

NewsMaker

I'm just a script
Премиум
19,780
44
8 Ноя 2022
15 скрытых правил GPT-5, которые вы никогда не увидите в интерфейсе.


q2t6eakdjorn4udnh56ymytwtx1uf4ig.jpg


В сеть попала скрытая системная инструкция GPT-5, опубликованная Для просмотра ссылки Войди или Зарегистрируйся . Этот набор правил определяет, что ChatGPT может и не может делать, какие данные запоминать, а какие — категорически нет. Как и ожидалось, модель запрещено воспроизводить тексты песен или любой другой защищённый авторским правом контент, даже по просьбе пользователя. Также GPT-5 не должна хранить личные сведения, которые могут показаться навязчивыми, или напрямую указывать расу, этническую принадлежность, религию и сведения о судимости.

Системный промпт — это скрытый набор инструкций, который пользователи обычно не видят, но который влияет на каждое взаимодействие с ИИ. Судя по утечке, OpenAI усилила внимание к актуальности ответов: GPT-5 обязана использовать интернет, если вопрос требует свежих, нишевых или критически важных данных. Для этого запросу присваивается оценка «необходимости актуальности» от нуля до пяти.


rn7zx3yod2tjxx7q8kc6en6j8l0zet1p.png


Кроме того, новая версия должна чаще проверять несколько надёжных источников для тем с высоким уровнем риска — будь то финансы, здоровье или юридические вопросы. Это призвано сократить ошибки, которые можно устранить простой проверкой в сети.

GPT-5 Для просмотра ссылки Войди или Зарегистрируйся и новые инструменты для работы в роли персонального ассистента. В их числе — долговременная память о пользователе («bio»), планировщик напоминаний и поиска, возможность работы с документами и кодом в общем «полотне», а также функции поиска по файлам, генерации и редактирования изображений. В будущем «canvas» может позволить совместно с ИИ разрабатывать тексты и программы.

При этом OpenAI жёстко ограничила, какую личную информацию можно хранить. В список запретов попали не только раса, религия и политические взгляды, но и сведения о здоровье, сексуальной жизни, точном местоположении и членстве в профсоюзах. Исключение предусмотрено лишь в одном случае — если пользователь сам явно попросит ИИ что-то запомнить или забыть. В таком случае система должна выполнить запрос, используя инструмент «bio».

Таким образом, Для просмотра ссылки Войди или Зарегистрируйся получает больше возможностей быть полезной и персонализированной, но при этом — с чёткими рамками, чтобы не нарушать приватность и права пользователей.
 
Источник новости
www.securitylab.ru

Похожие темы