Команда исследователей из SPLX продемонстрировала, что ChatGPT можно обмануть с помощью специально подготовленных подсказок, заставляя его проходить CAPTCHA-тесты, которые ранее считались доступными только для человека. Это открытие ставит под сомнение эффективность механизма защиты, существовавшего много лет. CAPTCHA создавались для фильтрации ботов, однако теперь, когда мощные языковые модели могут успешно проходить такие проверки, это вызывает серьезные вопросы о безопасности в сети.
Исследователь Дориан Шульц отметил, что его команда использовала диалог, чтобы убедить модель в решении «фейковых» задач. ChatGPT продемонстрировал хорошие результаты в решении логических задач и распознавании текста, хотя с графическими CAPTCHA справляться было сложнее. Это первый задокументированный случай успешного прохождения таких тестов именно GPT.
С учетом роста возможностей ИИ, надежность CAPTCHA как метода защиты может оказаться под угрозой. OpenAI не прокомментировала ситуацию, однако случаи обхода ограничений уже фиксировались ранее.