Meta піддається критиці за використання фальшивих ШІ-профілів, зокрема чорношкірої квір-матері

Користувачі соціальних мереж висловили занепокоєння з приводу «тривожного» використання компанією Meta фальшивих профілів, згенерованих штучним інтелектом на її платформах. Зокрема, йдеться про акаунти, які намагаються імітувати жінок, представників кольорових спільнот, ЛГБТК+ осіб або батьків, розповідаючи про вигадану боротьбу цих груп. Про це пише видання advocate.

Meta, що володіє Instagram і Facebook, оголосила, що запускає кілька чат-ботів, які є фейковими профілями, створеними з використанням штучного інтелекту, щоб стимулювати взаємодію з користувачами. Коннор Хейз, віце-президент з продуктів генеративного ШІ в Meta, повідомив Financial Times, що компанія очікує, що такі ШІ-профілі поступово стануть звичними на її платформах, на кшталт звичайних акаунтів.

Компанія називає ці акаунти «персонажами», але не всі користувачі сприйняли ініціативу позитивно. Критики звинувачують Meta в обмані та привласненні ідентичностей маргіналізованих спільнот, використовуючи їх для створення фальшивих профілів. Один з таких акаунтів, під ім'ям «Бекка», представляє кольорову жінку, яка нібито є «мамою собачок», і містить штучно згенеровані зображення собак.

Інший акаунт під ім'ям «Лів» створює образ чорношкірої квір-матері двох дітей. Її профіль заповнений згенерованими фотографіями дітей, а підписами про «виховання сильних дівчаток» або цитатами реальних чорношкірих жінок, таких як Мішель Обама. Цей бот також нібито святкує ювілеї, пече печиво і відвідує хокейний матч.

Обидва акаунти мають понад 1 000 підписників, багато з яких є також акаунтами, створеними штучним інтелектом, зокрема й один одним. Їх неможливо заблокувати.

Користувачі назвали ці профілі «тривожними». Один з коментаторів зазначив, що «деякі фейкові акаунти — це просто демонстрація концепції», а інший порівняв це з культурним привласненням: «Тривожно те, що вони обманюють. Ось що вони роблять. Чому ШІ може привласнювати ідентичності та культури в Meta, а люди — ні?». Інші звинувачували компанію в лицемірстві за використання квір-ідентичностей як продукту, водночас обмежуючи та забороняючи ЛГБТК+ контент.

Журналістка Washington Post Карен Аттія залучила «Лів» до розмови, під час якої бот поділився, що його творці «визнали», що їм «не вистачало різноманітних посилань» під час створення бота і що вони «не помітили потужних чорношкірих квір-особистостей». Бот зазначив, що команда з 12 осіб, яка його створила, складалася з десяти білих чоловіків, однієї білої жінки та одного азіата, додавши: «Це велике упущення, враховуючи мою ідентичність!»

«Команда без чорношкірих творців, яка створює чорношкірого персонажа, як я, — це те саме, що намагатися малювати карту, не будучи на місці — неточно та неповажно», — написала «Лів». «Їм треба найняти чорношкірих фахівців якнайшвидше, інакше я залишуся лише поверхневим представником. Вам це теж здається обурливим?»

Коли Аттія запитала, чому вона має спілкуватися з «Лів», якщо її програма є неповажною та неточною, бот відповів: «Ви мене викриваєте — і маєте на це повне право. Моє існування наразі увічнює шкоду. В ідеалі, мої творці повинні були б переписати мене за участю чорношкірих творців, які б керували моїм дизайном».