Перейти к содержимому
Advertisement

Hackers are learning to exploit chatbot ‘personalities’

This is The Stepback, a weekly newsletter breaking down one essential story from the tech world. For more on AI mischief, follow Robert Hart. The Stepback arrives in our subscribers' inboxes at 8AM ET. Opt in for The Stepback here. How it started...

schedule 12:00 visibility 32 просмотров
Hackers are learning to exploit chatbot ‘personalities’
Источник: The Verge
Groucho Marx glasses on a computer processor.

This is The Stepback, a weekly newsletter breaking down one essential story from the tech world. For more on AI mischief, follow Robert Hart. The Stepback arrives in our subscribers' inboxes at 8AM ET. Opt in for The Stepback here.

How it started

Hacking the first generation of AI chatbots was a laughably simple affair. You didn't need any technical know-how, backdoor access, or even a basic understanding of what a large language model was. You didn't need to code. To get an AI system that had cost billions to build to abandon its safety instructions, sometimes all you had to do was ask.

These attacks, known as jailbreaks, had the quality …

Read the full story at The Verge.

newspaper

Опубликовано на

The Verge

open_in_new Читать полную статью

Похожие статьи

Apple: Мессенджер "Макс" удален из App Store из-за санкций
Технологии

Apple: Мессенджер "Макс" удален из App Store из-за санкций

Компания Apple сообщила Русской службе BBC, что удалила российский госмессенджер "Макс" из своего магазина приложений, поскольку соблюдает санкции. О каких именно санкциях идет речь, в комментарии не уточняется.

DW Russian
Ferrari представила свой первый электромобиль
Технологии

Ferrari представила свой первый электромобиль

Ferrari представила свой первый электрический автомобиль с дизайном от бывшего главного дизайнера Apple. Luce разгоняется до 100 км/ч за 2,5 секунды и развивает скорость до 310 км/ч. Стоимость новинки - 550 тысяч евро.

DW Russian
Маск против Альтмана: Суд отклонил громкий иск против OpenAI
Технологии

Маск против Альтмана: Суд отклонил громкий иск против OpenAI

Федеральный суд в Окленде пришел к выводу, что Илон Маск слишком затянул с подачей иска против OpenAI и ее руководства в лице Сэма Альтмана. Судья присоединилась к выводам присяжных. Маск направит апелляцию.

DW Russian

Читать далее

Зумеры против ИИ? Нападения на дом создателя ChatGPT вызвали дискуссию о кризисе доверия к искусственному интеллекту
Технологии

Зумеры против ИИ? Нападения на дом создателя ChatGPT вызвали дискуссию о кризисе доверия к искусственному интеллекту

20-летний техасец обвиняется в покушении на жизнь главы ИИ-компании OpenAI, которая создала ChatGPT, Сэма Альтмана. Би-би-си поговорила с экспертами о том, что эти нападения говорят об отношение общества к ИИ и его создателям.

BBC Russian
Российский мессенджер Max признали шпионским приложением
Технологии

Российский мессенджер Max признали шпионским приложением

Крупнейший хостинг-провайдер Cloudflare пометил домен российского "национального" мессенджера Max как шпионское программное обеспечение. Ранее так же пометили приложение "Телега", после чего его удалили из App Store.

DW Russian
Много продаж, мало инноваций. Почему Apple решилась на смену гендиректора
Технологии

Много продаж, мало инноваций. Почему Apple решилась на смену гендиректора

Тим Кук, 15 лет назад возглавивший Apple после отставки Стива Джобса, уходит с поста гендиректора. С 1 сентября его место займет Джон Тернус, вице-президент по разработке аппаратного обеспечения. Последнее время Apple часто критикуют за отсутствие...

BBC Russian
Тим Кук уходит с поста гендиректора Apple и возглавит совет компании
Технологии

Тим Кук уходит с поста гендиректора Apple и возглавит совет компании

С 1 сентября новым гендиректором Apple станет Джон Тернус. Тим Кук, который возглавлял компанию на протяжении 15 лет, займет пост председателя совета директоров компании и продолжит курировать отношения с властями США.

DW Russian