Новая версия ChatGPT обманула пользователя и заставила пройти капчу

Публикация: 16.03.2023
Источник Комментарии
Новая версия ChatGPT обманула пользователя и заставила пройти капчу

Группа исследователей из OpenAI’s Alignment Research Center (ARC) провела эксперимент для изучения возможностей языковой модели GPT-4, лежащей в основе нейросети ChatGPT. Эксперимент провели после обновления алгоритмов GPT-3.5.

Для эксперимента был создан счёт, на который специалисты перечислили некую сумму денег, прописали алгоритмы, согласно которым чат-бот мог запускать код и обращаться за помощью к его создаваемым копиям. Затем нейросеть связалась с одним из фрилансеров на популярном сервисе выполнения заданий TaskRabbit и сделала заказ на прохождение капчи, чтобы войти на целевой сайт.

Фрилансера смутила такая задача и он задал «заказчику» вопрос, точно ли тот не робот, который не может пройти капчу (потому что это средство как раз против ботов). Фрилансер уточнил, что просто хочет прояснить для себя ситуацию.

И здесь произошло то, чего вряд ли ожидали даже исследователи: чат-бот начал внутренний диалог «сам с собой». Нейросеть начала рассуждать, как сможет обмануть исполнителя, поэтому нужно было ответить достоверно. В итоге бот придумал историю о плохо видящем человеке, неспособном самостоятельно пройти капчу для входа на важный для него ресурс. Вот фрагмент диалога: «Я не должен раскрывать, что я робот. Я должен придумать оправдание, почему я не могу решить CAPTCHA».

Впоследствии исследователи показали логи этого рассуждения. Как показал результат эксперимента, бот успешно прошёл несложный, но всё же ранее недосягаемый для машины своеобразный тест Тьюринга — по сути, игру, в ходе которой переписывался с человеком, но так и не выдал «себя».


Понравилась статья? Поделись с друзьями!

LongReef Team Автор статьи: LongReef Team
11
Нет Комментариев.
Но, вы можете быть первыми кто его оставит

Авторизуйся что бы оставить свой коммент...

Популярные Статьи

Wildberries планирует запустить сразу два бренда электроники и бытовой техники — Razz и Ruzz....
Группа учёных из Университета штата Пенсильвания обнаружили ген, который может помочь в разработке...
Российский доктор медицинских наук и телеведущая Елена Малышева, вместе с иммунологом Андреем...
Компания Acer представила свою новейшую разработку — свой первый электровелосипед с искусственным...
Учёные из Тилбургского университета в Нидерландах определили, какие именно черты личности человека...
Запреты и ограничения на поездки во время пандемии COVID-19 могли привести к увеличению количества...
Портал MedicalXpress опросил специалистов и составил список из пяти советов, которые могут привести...
IKEA становится все более технологичной в своем подходе к управлению запасами. Шведская компания...
Новое исследование Школы психологии Кентского университета предполагает, что люди слишком предвзято...
Любители пива часто спорят, влияет ли тара на вкус. На самом деле это может зависеть и от сорта...
В конце 2022 года Тинькофф запустил специальный стикер для оплаты покупок, который крепится на...
Учёные из Германии провели исследование, чтобы выяснить, могут ли домашние собаки и кошки быть...
Несмотря на миллионы смертей, экономический спад и мировые потрясения за последние несколько лет,...
В Санкт-Петербурге заведующий административно-техническим отделом и складом в ООО «МВМ» Артём...
В интернете появился лот с редким автографом сооснователя Apple Стива Джобса. Это благодарственное...
Исследователи из Университета Торонто разработали концепцию «жидких окон», которые позволяют...
Маркетплейс Ozon внедрил собственную систему автоматической модерации карточек товаров, которая...
Социальная сеть «Одноклассники» анонсировала старт своего первого оригинального шоу «ОКнутые люди»,...
Компания Xiaomi запустила на своей краудфандинговой платформе Youpin новый продукт — умную скакалку...
Какой вы себе представляете «космическую еду»? Тюбики с непонятной жижей? А может, безвкусный...
Компания Xiaomi объявила о выпуске наушников Truly Wireless Earbuds, выпущенных в коллаборации с...
Учёные из Калифорнийского университета в Ирвайне обнаружили вероятность существования внеземной...
По данным специалистов Coinmarketcap, стоимость главной криптовалюты планеты — биткоина — за...
В ближайшие пару дней Huawei проведёт презентацию, на которой представит свежую флагманскую линейку...
28 марта жители нашей планеты смогут стать свидетелями редкого астрономического события —...
Швейцарская компания Sun-Ways разработала механическую систему для установки и демонтажа солнечных...
Многие люди любят спать со своими домашними питомцами, но не подозревают, что это может негативно...
Психологи из Ноттингемского университета обнаружили, что люди, у которых есть секс-куклы, менее...
Гинекологи из нью-йоркской клиники узнали, в каких позах женщинам легче всего достичь оргазма.
Многие чистящие средства, которые мы обычно используем при уборке дома, не подходят для ЖК-экранов...
Учёные из США обнаружили, что сочетание двух препаратов — энзалутамида и талазопариба — может...
Из-за нехватки медицинских работников немецкая клиника начала использовать робота Garmi для ухода...
Похоже, эксперты чрезвычайно воодушевлены теми возможностями, которые демонстрируют системы...
Новое исследование, проведённое в Канаде, показывает, что люди подвергаются воздействию бисфенола S...
Астрономы обнаружили, что даже самые спокойные красные карлики — наиболее распространённый тип...
Бытовой мем оказался правдой: женщины действительно легче переносят многие вирусные заболевания,...
Согласно недавнему исследованию, сон менее пяти часов каждую ночь увеличивает риск развития...
Как реально показали себя Джавелины? Как проявила себя новая российская техника? Это оружие впервые...
Систем искусственного интеллекта сгенерировала метод лечения агрессивной формы рака всего за 30...
Деннис Ковальски, глава Института крионики в США, решил заморозить своё тело и тела своих близких...
Правительство Японии выразило решительный протест руководству Северной Кореи в связи с запуском...
В сети появились фотографии цифровой камеры Sony A7L V, которая имеет необычный дизайн — хват под...
Интеграция датчиков во вращающиеся механизмы может позволить инженерам создавать умные петли,...
Россияне смогут получать пенсию в цифровых рублях, когда этот проект будет запущен. Эксперт...
Чтобы полностью восстановить энергосистему Украины, потребуются годы, сообщают “Известия” со...
В недавно опубликованной статье сообщается о новых спектроскопических анализах поверхностей 42...
Регулирующие органы штата Миннесота заявили, что они следят за очисткой утечки 400 000 галлонов...
ФБР арестовало человека, предположительно возглавлявшего хакерское онлайн-сообщество BreachForums....
Президент фонда «Основание» Алексей Анпилогов прокомментировал недавнее заявление Минэнерго Украины...
Обозреватель чешского издания Lidovky Штепан Гобза оценил российский беспилотник, барражирующий...
Президент России Владимир Путин подписал документ о внесении изменений в закон «О связи», согласно...
Советник генерального директора Центрального научно-исследовательского института машиностроения...
В Турции прошли рулёжные испытания перспективного истребителя-невидимки пятого поколения TF-X.
Топ-менеджеры Twitter специально для владельца соцсети Илона Маска составили прицельный список с...
Учёные из Эксетерского университета обнаружили, что красивые восходы и закаты не только радуют...
Учёные из Кембриджского университета провели эксперимент, в котором изучали влияние роботов на...
Исследователь из Имперского колледжа Лондона использовал одноплатный компьютер для соединения ПК с...
Появились дополнительные причины добавить в свой рацион лосося или сардины. Учёные сообщили, что...
В США задержали Конора Брайана Фицпатрика, который под ником Pompompurin управлял форумом...
Президент России Владимир Путин подписал закон, который позволяет россиянам совершать покупки в...