close-btn

Діти стають “невидимками” для безпілотних авто: причини

Дослідники з Корнелльського університету з’ясували, що системи безпілотних автомобілів з меншою точністю виявляють дітей та темношкірих людей. Розповідаємо, чому так відбувається

Діти стають невидимками для безпілотних авто: причини

Фото: freepik.com

Вчені з Королівського коледжу в Лондоні виявили істотні проблеми, пов’язані з віком і кольором шкіри об’єктів, у системах розпізнавання автономних транспортних засобів. Ними було встановлено, що діти та люди з темнішою шкірою піддаються більшому ризику на вулиці з боку безпілотних авто.

Згідно з результатами дослідження, аналіз ефективності восьми різних ШІ-систем розпізнавання пішоходів, навчених на “широко використовуваних, реальних” наборах даних, показав, що ці програми значно гірше розпізнають темношкірих пішоходів і дітей, ніж світлошкірих дорослих.

У результаті тестування з використанням понад 8000 зображень було встановлено, що точність розпізнавання дорослих на 19,67% вища, ніж дітей, а різниця в точності розпізнавання світлошкірих і темношкірих людей становила 7,52%.

При цьому різниця в точності визначення статі становила всього 1,1%.

“Автономні системи водіння в майбутньому стануть домінантним видом транспорту. Однак ці системи схильні до помилок у програмному забезпеченні, що потенційно може призвести до серйозних травм або навіть загибелі пішоходів і пасажирів”, ─ коментує Цзе Чжан, один з авторів дослідження.

Крім того, фахівці виявили, що ефективність розпізнавання для групи людей із темною шкірою знижується в умовах низької освітленості та низької контрастності (тобто вночі) порівняно з групою людей зі світлою шкірою.

Причини

Як припускають дослідники, головною причиною такої розбіжності є те, що для навчання систем ШІ використовуються колекції зображень пішоходів зі світлою шкірою.

Потреба у високоякісних даних для навчання і вдосконалення моделей ШІ зростає експоненціальними темпами, оскільки практично всі галузі, від фінансових послуг до охорони здоров’я, починають впроваджувати ШІ у свої бізнес-процеси.

Однак без даних моделі ШІ практично не приносять користі: вони не можуть встановлювати зв’язки, знаходити закономірності та робити прогнози. Саме тому для навчання систем ШІ, як і раніше, необхідні люди. Раніше ми писали про те, що вже існує застосунок, який дає змогу будь-якій людині в будь-якій точці світу навчати штучний інтелект і отримувати за це винагороду.

Цзе Чжан також зазначив, що проблема упередженості — навмисної чи ні — існує вже давно. Але коли йдеться про розпізнавання пішоходів у безпілотних автомобілях, ставки стають вищими. Чжан закликав розробити керівні принципи та закони для забезпечення неупередженого використання даних ШІ.

“Автовиробникам та уряду необхідно об’єднати зусилля для розробки нормативних актів, які б забезпечували об’єктивну оцінку безпеки цих систем, особливо коли йдеться про справедливість. Наразі положення про справедливість у цих системах обмежене, що може мати серйозний вплив не тільки на майбутні системи, а й безпосередньо на безпеку пішоходів”.

До речі, Україна вже створює правове поле для штучного інтелекту

Стрімкий розвиток штучного інтелекту (ШІ) в останні роки призвів до появи складних мовних моделей. І хоча ці потужні інструменти зробили революцію в різних галузях, вони також пов’язані з деякими проблемами та ризиками, як ми бачимо. Одним із найбільш актуальних питань є явище галюцинацій ШІ. Детальніше ми описали цей феномен у нашій статті “Що таке ШІ-галюцинація та як її виявити звичайному користувачеві”.

Ознайомтеся з іншими популярними матеріалами на тему ШІ:

google news
credit link image
×
Підписуйтесь на нас в Telegram та Viber!