Перейти к содержимому
Advertisement

OpenAI Codex system prompt includes explicit directive to "never talk about goblins"

Directions also include system instructions to act like "you have a vivid inner life."

schedule 19:00 visibility 59 просмотров
OpenAI Codex system prompt includes explicit directive to "never talk about goblins"
Источник: Ars Technica

The system prompt for OpenAI's Codex CLI contains a perplexing and repeated warning for the most recent GPT model to "never talk about goblins, gremlins, raccoons, trolls, ogres, pigeons, or other animals or creatures unless it is absolutely and unambiguously relevant to the user's query."

The explicit operational warning was made public last week as part of the latest open source code for Codex CLI that OpenAI posted on GitHub. The prohibition is repeated twice in a 3,500-plus word set of "base instructions" for the recently released GPT-5.5, alongside more anodyne reminders not to "use emojis or em dashes unless explicitly instructed" and to "never use destructive commands like 'git reset --hard' or 'git checkout --' unless the user has clearly asked for that operation."

Separate system prompt instructions for earlier models contained in the same JSON file do not contain the specific prohibition against mentioning goblins and other creatures, suggesting OpenAI is fighting a new problem that has popped up in its latest model release. Anecdotal evidence on social media shows some users complaining about GPT's penchant for focusing on goblins in completely unrelated conversations in recent days.

Read full article

Comments

newspaper

Опубликовано на

Ars Technica

open_in_new Читать полную статью

Похожие статьи

Apple: Мессенджер "Макс" удален из App Store из-за санкций
Технологии

Apple: Мессенджер "Макс" удален из App Store из-за санкций

Компания Apple сообщила Русской службе BBC, что удалила российский госмессенджер "Макс" из своего магазина приложений, поскольку соблюдает санкции. О каких именно санкциях идет речь, в комментарии не уточняется.

DW Russian
Ferrari представила свой первый электромобиль
Технологии

Ferrari представила свой первый электромобиль

Ferrari представила свой первый электрический автомобиль с дизайном от бывшего главного дизайнера Apple. Luce разгоняется до 100 км/ч за 2,5 секунды и развивает скорость до 310 км/ч. Стоимость новинки - 550 тысяч евро.

DW Russian
Маск против Альтмана: Суд отклонил громкий иск против OpenAI
Технологии

Маск против Альтмана: Суд отклонил громкий иск против OpenAI

Федеральный суд в Окленде пришел к выводу, что Илон Маск слишком затянул с подачей иска против OpenAI и ее руководства в лице Сэма Альтмана. Судья присоединилась к выводам присяжных. Маск направит апелляцию.

DW Russian

Читать далее

Зумеры против ИИ? Нападения на дом создателя ChatGPT вызвали дискуссию о кризисе доверия к искусственному интеллекту
Технологии

Зумеры против ИИ? Нападения на дом создателя ChatGPT вызвали дискуссию о кризисе доверия к искусственному интеллекту

20-летний техасец обвиняется в покушении на жизнь главы ИИ-компании OpenAI, которая создала ChatGPT, Сэма Альтмана. Би-би-си поговорила с экспертами о том, что эти нападения говорят об отношение общества к ИИ и его создателям.

BBC Russian
Российский мессенджер Max признали шпионским приложением
Технологии

Российский мессенджер Max признали шпионским приложением

Крупнейший хостинг-провайдер Cloudflare пометил домен российского "национального" мессенджера Max как шпионское программное обеспечение. Ранее так же пометили приложение "Телега", после чего его удалили из App Store.

DW Russian
Много продаж, мало инноваций. Почему Apple решилась на смену гендиректора
Технологии

Много продаж, мало инноваций. Почему Apple решилась на смену гендиректора

Тим Кук, 15 лет назад возглавивший Apple после отставки Стива Джобса, уходит с поста гендиректора. С 1 сентября его место займет Джон Тернус, вице-президент по разработке аппаратного обеспечения. Последнее время Apple часто критикуют за отсутствие...

BBC Russian
Тим Кук уходит с поста гендиректора Apple и возглавит совет компании
Технологии

Тим Кук уходит с поста гендиректора Apple и возглавит совет компании

С 1 сентября новым гендиректором Apple станет Джон Тернус. Тим Кук, который возглавлял компанию на протяжении 15 лет, займет пост председателя совета директоров компании и продолжит курировать отношения с властями США.

DW Russian