Попри дедалі гучніші заяви про «свідомий ШІ», людство не має надійних інструментів, щоб визначити, чи машини справді здатні на свідомість
Фото: freepik.com
Таку позицію висловив філософ Кембриджського університету Том Макклелланд, наголосивши: через брак розуміння самої природи свідомості створити коректний тест для машин, імовірно, не вдасться ще дуже довго — якщо взагалі колись вдасться.
За словами дослідника, у дискусіях про штучну свідомість єдина обґрунтована позиція — агностицизм.
«Ми просто не зможемо сказати напевно, і цілком можливо, що це залишиться так назавжди», — зазначає він. На думку Макклелланда, навіть випадкове створення свідомого ШІ не означатиме автоматичної появи етичної проблеми.
Ключовим є не сама свідомість, а здатність до відчуттів — так звана сенситивність.
«Свідомість може означати сприйняття світу та самосвідомість, але це може бути нейтральний стан, — пояснює вчений. — Сенситивність передбачає позитивні або негативні переживання, а саме вони роблять істоту здатною до страждання чи насолоди. Ось де починається етика».
За його словами, навіть якщо ШІ стане свідомим, малоймовірно, що це буде та форма свідомості, якої варто боятися.
Макклелланд наводить приклад автономних авто: якщо система «переживає» дорогу перед собою, це технологічний прорив, але не етична дилема. Інша річ — якщо машина почне емоційно реагувати на свої цілі.
Читайте також: Новий суперконтинет знищить людство — учені
На тлі інвестицій великих корпорацій у створення універсального ШІ дедалі частіше лунають пропозиції щодо регулювання можливої свідомості машин. Однак філософ вважає, що проблема глибша: ми досі не знаємо, що саме породжує свідомість. Без цього будь-які тести є спекулятивними.
У статті в журналі Mind and Language Макклелланд критикує обидва табори — і прихильників ідеї, що свідомість можна відтворити як програмну архітектуру, і скептиків, які вважають її суто біологічним явищем. На його думку, обидві позиції ґрунтуються на вірі, а не на доказах.
Окрему небезпеку він бачить у хайпі довкола свідомого ШІ.
«Існує ризик, що відсутність доказів свідомості буде використана індустрією для гучних і перебільшених заяв», — каже Макклелланд.
Це може спотворювати пріоритети: наприклад, зростає кількість даних про здатність креветок відчувати біль, але щороку люди знищують близько 500 млрд цих тварин, тоді як увага прикута до гіпотетичних прав машин.
Філософ також застерігає від емоційної прив’язаності до чатботів. За його словами, люди надсилають йому листи, згенеровані ШІ, у яких ті «просять» визнати їх свідомими.
«Емоційний зв’язок із тим, що не є свідомим, може бути екзистенційно токсичним, і цю проблему лише посилює роздмухана риторика техіндустрії», — підсумовує він.
Ознайомтеся з іншими популярними матеріалами:
Суперкомп’ютер NASA зробив моторошне передбачення про кінець світу
Знайдено планету-ізгоя, яка зростає на 6 млрд тон щосекундно
Учені виявили суперзадачі, які не під силу навіть квантовим комп’ютерам
За матеріалами scitechdaily.com.
Telegram
Viber
