Алгоритм Twitter для автоматической обрезки фотографий предпочитает стройняшек

Вт 10 Август 2021 08:24

В мае нынешнего года компания Twitter заявила о прекращении использования алгоритма для автоматической обрезки фотографий на базе искусственного интеллекта, который, как оказалось, отдавал предпочтение былым и женским лицам. Недавно компания даже запустила необычную программу выплаты вознаграждения исследователям, обнаружившим «алгоритмические предубеждения» на платформе. Программа работает по тому же принципу, что и bug bounty по поиску уязвимостей.

В рамках новой программы выяснилось, что тот же самый алгоритм, предназначенный для выявления наиболее важных элементов в изображениях при их обрезке, дискриминирует людей на фотографиях по возрасту и весу и предпочитает тексты на английском и других европейских языках.

Как обнаружил студент магистратуры Федеральной политехнической школы Лозанны (Швейцария) Богдан Кулинич, алгоритм Twitter для автоматической обрезки фотографий отдает предпочтение стройным молодым людям. В ходе исследования с помощью дипфейк-технологий исследователь автоматически генерировал различные лица и на них тестировал алгоритм для обрезки изображений.

Открытие Кулинича также подтвердил старший научный сотрудник компании BNH Патрик Холл (Patrick Hall).

«В общем, чем стройнее, моложе и женственнее фотография, тем больше у нее шансов быть одобренной», - завил Холл.

По словам исследовательницы безопасности из OpenAI Ариэль Герберт-Восс, обнаруженные в алгоритме предубеждения отображают предубеждения людей, предоставляющих данные для обучения модели искусственного интеллекта. Сообщения участников новой программы Twitter показывают, как тщательный анализ алгоритма может помочь командам устранить проблемы с их моделями ИИ.

В сентябре 2020 года студент из Канады обратил внимание на то, как алгоритм Twitter обрезает фотографии. По идее, алгоритм должен оставлять на фото лица людей, тексты и животных. Однако, как оказалось, на фотографиях, где были изображены несколько человек, он отдавал предпочтение европеоидным и женским лицам, отрезая остальных. Вскоре обнаружилось, что алгоритм демонстрирует предубеждения по гендерному и расовому признакам.

Статья уведена с www.securitylab.ru.

NetLan.ru жив уже 15 лет 308 дней 13 часов 23 минуты 38 секунд
СМК NetLan (Nettlesome Landloper) — некоммерческий интернет-ресурс.
Весь данный интернет-ресурс и всё созданное или размещённое на нём используется в личных целях.