Дослідники з Корнелльського університету з’ясували, що системи безпілотних автомобілів з меншою точністю виявляють дітей та темношкірих людей. Розповідаємо, чому так відбувається
Фото: freepik.com
Вчені з Королівського коледжу в Лондоні виявили істотні проблеми, пов’язані з віком і кольором шкіри об’єктів, у системах розпізнавання автономних транспортних засобів. Ними було встановлено, що діти та люди з темнішою шкірою піддаються більшому ризику на вулиці з боку безпілотних авто.
Згідно з результатами дослідження, аналіз ефективності восьми різних ШІ-систем розпізнавання пішоходів, навчених на “широко використовуваних, реальних” наборах даних, показав, що ці програми значно гірше розпізнають темношкірих пішоходів і дітей, ніж світлошкірих дорослих.
У результаті тестування з використанням понад 8000 зображень було встановлено, що точність розпізнавання дорослих на 19,67% вища, ніж дітей, а різниця в точності розпізнавання світлошкірих і темношкірих людей становила 7,52%.
При цьому різниця в точності визначення статі становила всього 1,1%.
“Автономні системи водіння в майбутньому стануть домінантним видом транспорту. Однак ці системи схильні до помилок у програмному забезпеченні, що потенційно може призвести до серйозних травм або навіть загибелі пішоходів і пасажирів”, ─ коментує Цзе Чжан, один з авторів дослідження.
Крім того, фахівці виявили, що ефективність розпізнавання для групи людей із темною шкірою знижується в умовах низької освітленості та низької контрастності (тобто вночі) порівняно з групою людей зі світлою шкірою.
Причини
Як припускають дослідники, головною причиною такої розбіжності є те, що для навчання систем ШІ використовуються колекції зображень пішоходів зі світлою шкірою.
Потреба у високоякісних даних для навчання і вдосконалення моделей ШІ зростає експоненціальними темпами, оскільки практично всі галузі, від фінансових послуг до охорони здоров’я, починають впроваджувати ШІ у свої бізнес-процеси.
Однак без даних моделі ШІ практично не приносять користі: вони не можуть встановлювати зв’язки, знаходити закономірності та робити прогнози. Саме тому для навчання систем ШІ, як і раніше, необхідні люди. Раніше ми писали про те, що вже існує застосунок, який дає змогу будь-якій людині в будь-якій точці світу навчати штучний інтелект і отримувати за це винагороду.
Цзе Чжан також зазначив, що проблема упередженості — навмисної чи ні — існує вже давно. Але коли йдеться про розпізнавання пішоходів у безпілотних автомобілях, ставки стають вищими. Чжан закликав розробити керівні принципи та закони для забезпечення неупередженого використання даних ШІ.
“Автовиробникам та уряду необхідно об’єднати зусилля для розробки нормативних актів, які б забезпечували об’єктивну оцінку безпеки цих систем, особливо коли йдеться про справедливість. Наразі положення про справедливість у цих системах обмежене, що може мати серйозний вплив не тільки на майбутні системи, а й безпосередньо на безпеку пішоходів”.
До речі, Україна вже створює правове поле для штучного інтелекту
Стрімкий розвиток штучного інтелекту (ШІ) в останні роки призвів до появи складних мовних моделей. І хоча ці потужні інструменти зробили революцію в різних галузях, вони також пов’язані з деякими проблемами та ризиками, як ми бачимо. Одним із найбільш актуальних питань є явище галюцинацій ШІ. Детальніше ми описали цей феномен у нашій статті “Що таке ШІ-галюцинація та як її виявити звичайному користувачеві”.
Ознайомтеся з іншими популярними матеріалами на тему ШІ:
- Вчені запропонували додати четвертий сигнал світлофора – білий
- ТОП-6 найдивовижніших досягнень штучного інтелекту
- Як штучний інтелект став невід’ємною частиною світової економіки
