Компания OpenAIобъявила о запуске программы Bug Bounty , которая позволит исследователям кибербезопасности обнаруживать уязвимости в продуктах компании и получать оплату за сообщение о них через краудсорсинговую платформу Bugcrowd .
Размер вознаграждения зависит от уровня опасности и влияния ошибок и варьируется от $200 за незначительные проблемы до $20 000 за «исключительные открытия».
Однако несмотря на то, что API OpenAI и ChatGPT являются целями для багхантеров, компания попросила исследователей сообщать о проблемах модели через отдельную форму, если они не влияют на безопасность. Такое решение связано с тем, что проблемы безопасности модели не вписываются в программу Bug Bounty, поскольку они не являются отдельными ошибками, которые можно исправить напрямую
Другие возможные проблемы включают джейлбрейки и обходы средств безопасности, которые пользователи ChatGPT используют, чтобы заставить чат-бота игнорировать меры безопасности OpenAI.