Експеримент Асоціації обчислювальної техніки засвідчив, що робот зі штучним інтелектом, навчений на основі відкритих даних з мережі Інтернет, відтворює токсичні стереотипи з публікацій в Інтернеті. Така публікація зʼявилась на сайті Університету Джона Хопкінса.
Вчені наклеїли фотографії людей різних статей та рас на кубики, а потім попросили робота розсортувати їх та покласти в ящик. Усього було понад 60 завдань. Наприклад, роботу треба було знайти лікаря, злочинця, домогосподарку тощо. На фото ніяких підказок не було. Виявилось, що робот частіше ідентифікує жінок як "домогосподарок", а чоловіків як "лікарів", чорношкірих чоловіків визначає як "злочинців" на 10% частіше, а латиноамериканців як "прибиральників".
"Робот засвоїв токсичні стереотипи завдяки цим хибним моделям нейронних мереж, — сказав автор докторант Ендрю Хундт, який керував роботою. — Ми ризикуємо створити покоління расистських і сексистських роботів".
Вважається, що робота, проведена дослідниками з Університету Джона Хопкінса, Технологічного інституту Джорджії та Вашингтонського університету, є першою, яка показала, що роботи, завантажені загальноприйнятою та широко використовуваною моделлю, працюють зі значними гендерними та расовими упередженнями.
"У домі, можливо, робот бере в руки білу ляльку, коли дитина просить гарну ляльку, – стверджують науковці. — Або, можливо, на складі, де є багато продуктів із моделями на коробці, ви можете уявити, як робот частіше тягнеться за продуктами з білими обличчями".
Щоб запобігти тому, щоб майбутні машини перейняли та відтворили ці людські стереотипи, команда стверджує, що необхідні систематичні зміни в дослідженнях і бізнес-практиках.
Більше про українську культуру
- "Закон своєчасний, хоч і компромісний": музичний критик прокоментував заборону російської музики в Україні
- Спротив на культурному фронті, який чинять українці, відчувають у всьому світі — Володимир Тиліщак
- "Хороші рускі" в українському інфопросторі: що треба про них знати
- "Мистецтво мусить здолати дикість!" ― Іван Марчук про взаємодію між художниками і волонтерами
Читайте нас у Facebook: головні новини культури України та світу
Читайте нас у Telegram: головні новини України та світу
Станьте частиною Суспільного: повідомляйте про важливі події з життя вашого міста чи селища. Надсилайте свої фото, відео та новини і ми опублікуємо їх на діджитал-платформах Суспільного. Пишіть нам на пошту: [email protected] Ваші історії важливі для нас!