Останні декілька років перевернули світогляд землян. Стрімкий розвиток штучного інтелекту і його сценарії знищення людства, успішне вживлення чипів в мозок приматів та інші технології змушують ще раз задуматись щодо ймовірності повстання машин
Machine uprising Фото: imaginaryworldspodcast.org
Деякі вчені говорять, що роботи зі штучним інтелектом одного разу влаштують «Судний день» у стилі Термінатора .
Так, нещодавно науковці Оксфордського університету попередили, що «надлюдський ШІ» може виявитися щонайменше настільки ж небезпечним, як і ядерна зброя. Ця дискусія є частиною зростаючого занепокоєння щодо потенційної небезпеки штучного інтелекту.
«Існуючі технології ШІ вже достатньо «потужні», щоб вимагати великої обережності при розгортанні в глобальному або національному масштабі», — сказав в інтерв’ю Lifewire Кевін Гордон, віце-президент з технологій ШІ в компанії NexOptic, яка розробляє рішення для обробки зображень.
Хоч він і не розглядає сценарії в стилі Термінатора, його побоювання досить аргументовані. Зокрема, він попереджає про зміну регуляторних процесів та законодавств (ШІ допомагатиме урядам, але може завести все в глухий кут і викликати серйозні проблеми).
Нагадаємо, що штучний інтелект вже отримав право захищати людину в суді як справжній адвокат.
Майкл Коен, докторант Оксфорда, зробив похмурий прогноз щодо ШІ під час виступу перед британським комітетом з науки і технологій. Він попередив, що просунутий штучний інтелект може знищити людську расу.
«Якщо уявити собі дресирування собаки за допомогою ласощів: вона навчиться вибирати дії, які приведуть її до ласощів, але, якщо собака знайде шафку з ласощами, вона може взяти їх сама, не роблячи того, що ми від неї хотіли, — каже він. — Екзистенційна катастрофа не просто можлива, вона ймовірна».
ЧИТАЙТЕ ТАКОЖ: Чи здатний штучний інтелект Google LaMDA до мислення? І чи небезпечний він?
AI Фото: venturebeat.com
Селмер Брінгсйорд, директор Лабораторії штучного інтелекту і мислення в Політехнічному інституті Ренсселера, який спеціалізується на математичних і філософських основах ШІ, сказав, що роботу не обов’язково бути надлюдиною, щоб бути небезпечним.
«AI, який просто наближається до рівня людського інтелекту, є автономним і кінетично потужним», — сказав він.
Ексгендиректор Google Ерік Шмідт певен, людям необхідно скрупульозно регулювати використання нейромережі. Навряд чи ШІ у тому вигляді, у якому існує зараз, здатен зробити щось гірше, ніж ядерні боєголовки. А от спровокувати ядерний апокаліпсис може.
Так, минулого року комп’ютерна програма DALL-E 2, яка генерує зображення на основі штучного інтелекту, показала, якими будуть останні селфі на Землі. Системі вдалося згенерувати доволі чіткі зображення за описами користувачів. Варто визнати, що оптимістичного у цих фотографіях мало — вони схожі на кадри науково-фантастичного кіно з вибухами, розрухою і панікою внаслідок вибуху ядерної бомби.
Цікаво, що американському виданні The Washington Post тоді ж з’явилася тривожна стаття на схожу тему. Філософ та історик Еміль Торрес пише, що до ядерної війни випадково можуть призвести дії штучного інтелекту.
ЧИТАЙТЕ ТАКОЖ: Штучний Інтелект попередив учених, що він небезпечний
Науковець зазначає, що «когнітивні архітектури штучного надінтелекту можуть кардинально відрізнятися від наших, і через це є найбільш непередбачуваною річчю у світі». На думку історика, зараз люди не можуть передбачити навіть кроки алгоритму під час дитячої гри, і вже точно не можуть знати, що захоче зробити машина, яка вміє вирішувати надскладні задачі.
«А що як людство запрограмує ШІ на мир у всьому світі, а той запустить кожну ядерну боєголовку на планеті, адже подумає: якщо не буде людей, то війн також не буде», — розмірковує Еміль Торрес.
І, на жаль, захиститись від робота буде досить складно. Зокрема, він вже навчився за лічені секунди зламувати паролі за допомогою тепловізору.
Навіть ChatGPT, який так полюбили мільйони користувачів у всьому світі, написав детальну інструкцію щодо знищення людства.
Как видит конец мира ИИ Фото: creator.nightcafe.studio
Вживлення чипів у голову людям — Ілон Маск не зупиниться на шляху до реалізації проєкту
Відійдемо трохи від теми штучного інтелекту та розглянемо давнішню ідею Ілона Маска — встановити комп’ютерний чіп у наш мозок. Затія хоч і дуже перспективна, але не менш небезпечна, враховуючи можливості AI.
Нейротехнологічний стартап Neuralink працює над імплантацією свого мозкового чіпу в череп людини з моменту заснування в 2016 році. Після багатьох років випробувань на тваринах Маск оголосив у грудні 2022 року, що компанія планує розпочати випробування на людях вже протягом шести місяців (хоча це був не перший раз, коли він казав, що ці випробування вже на горизонті ).
Neuralink витратив більше півдесятка років, щоб з’ясувати, як перетворити мозкові сигнали в цифрові виходи. Уявіть, що ви можете рухати курсором, надсилати текстове повідомлення або навіть грати у відеоігри, просто думаючи про це. Хоча початковий фокус був спрямований на медичні випадки використання, такі як допомога паралізованим людям у спілкуванні, Маск прагнув зробити чіпи Neuralink загальнодоступними — щоб, як він сказав, «вставити Fitbit у ваш череп».
Нагадаємо, що про перше успішне чипування мозку макаки Маск заявив ще на початку 2021 року. В результаті операції Пейджер зміг грати у прості відеоігри (зокрема, «Понг»), використовуючи лише уяву (без контролера), таким чином калібруючи алгоритми Neuralink.
Пейджер Фото: itc.ua
ЧИТАЙТЕ ТАКОЖ: «Хто я і на що здатний»: Генеративний ШІ розповів нам про себе
Компанія Маска — далеко не єдина група, яка працює над інтерфейсами «мозок-комп’ютер», або системами, що полегшують прямий зв’язок між людським мозком і зовнішніми комп’ютерами. Інші дослідники вивчають можливості використання BCI (Brain–computer interface) для відновлення втрачених органів чуття та управління протезами кінцівок, серед іншого.
А тепер уявіть на секунду, що якийсь жартівник або злочинець світового масштабу запропонував ШІ взяти під контроль людину, у мозку якої стоїть чип, щоб відчути себе живим. Сценарії можуть бути різними, але це також цікавий матеріал для роздумів.
Змінений розум
Не було підтверджено жодного випадку жорстокого буйства в стилі «Людини-термінатора», спричиненого BCI, але є переконливі докази того, що пристрої можуть викликати когнітивні зміни, які виходять за межі їхнього цільового застосування.
Анна Векслер, професорка філософії Університету Пенсильванії, опитала людей з хворобою Паркінсона, які проходили глибоку стимуляцію мозку. Це хірургічне лікування, що передбачає імплантацію тонких металевих дротів, які посилають електричні імпульси в мозок.
«Багато хто відчував, що хвороба в певному сенсі позбавила їх того, ким вони були, — каже професорка. — Застосування BCI допомогло людям відчути, що вони повертаються до себе, допомагаючи лікувати основну хворобу».
Фото: futurum.today
ЧИТАЙТЕ ТАКОЖ: У США завершили випробування авіаційного автопілота на основі ШІ-алгоритму
Але не всі зміни, які виявили дослідники, є корисними. Беручи інтерв’ю в людей, які перенесли BCI, Фредерік Гілберт, професор філософії в Університеті Тасманії, що спеціалізується на прикладній нейроетиці, помітив деякі дивні ефекти.
«Поняття особистості, ідентичності, волі, автентичності, автономії та «я» — це дуже компактні, незрозумілі та непрозорі виміри, — сказав Гілберт. — Ніхто не має єдиної думки щодо того, що вони означають, але у нас є випадки, коли очевидно, що BCI спричинили зміни в особистості».
Під час численних інтерв’ю Гілберт помітив, що пацієнти повідомляють про відчуття невпізнання себе, або те, що в дослідженнях зазвичай називають «відчуженням».
«Вони знають, що вони є собою, але це не так, як було до імплантації», — сказав він. Деякі пацієнти висловлювали відчуття, що у них з’явилися нові можливості, не пов’язані з імплантатами, як, наприклад, жінка у віці близько 50 років, яка поранилася, намагаючись підняти більярдний стіл, який, як вона думала, могла б пересувати самостійно.
Для людей, які використовують BCI для подолання значних фізіологічних проблем, є надія, що лікування матиме позитивний ефект. Але коли справа доходить до розгляду можливості використання мозкових чипів для масового застосування, то виникає набагато більше занепокоєння з приводу негативних наслідків.
ЧИТАЙТЕ ТАКОЖ:
Вимушена міграція та зростання вартості життя: експерти назвали основні глобальні ризики
Бізнес і e-commerce у метавсесвіті: Що чекає на людство у безмежній віртуальній реальності
За матеріалами lifewire.com, businessinsider.com.
Telegram
Viber