“Навіть Марс може виявитися небезпечним, якщо надрозумний ШІ обернеться проти людства”, —попереджає творець Ethereum Віталік Бутерін
Фото: twitter.com/VitalikButerin, freepik.com
За словами Віталіка Бутеріна, надсучасний штучний інтелект (ШІ), якщо його залишити без контролю, має всі шанси перевершити людей і стати наступним “вищим видом” на Землі. Однак усе зводиться до того, як люди потенційно можуть втручатися в розробки ШІ, зазначає Віталік.
New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh
— vitalik.eth (@VitalikButerin) November 27, 2023
У своєму повідомленні в блозі від 27 листопада Бутерін, якого багато хто вважає ідейним лідером у сфері криптовалют, заявив, що ШІ фундаментально відрізняється від інших винаходів, таких як соціальні мережі, літаки, зброя, колесо і друкарський верстат. Річ у тім, що ШІ здатний створити новий тип розуму, який може обернутися проти людських інтересів:
“ШІ ─ це […] новий тип розуму, який швидко набирає силу, і в нього є серйозні шанси обігнати людину за розумовими здібностями та стати новим вищим видом на планеті”.
Бутерін стверджує, що, на відміну від зміни клімату, техногенної пандемії або ядерної війни, надрозумний ШІ потенційно може покінчити з людством і не залишити нікого в живих, особливо якщо розглядатиме людей як загрозу своєму існуванню.
“Навіть Марс може виявитися небезпечним”, ─ додав Бутерін.
Бутерін навів дані опитування, проведеного в серпні 2022 року серед більш ніж 4270 дослідників у галузі машинного навчання, які оцінили ймовірність того, що ШІ згубить людство, у 5-10 %. Однак Бутерін і наголосив, що хоча подібні заяви й мають екстремальний характер, у людей є способи здобути перемогу.
Мозкові інтерфейси та технооптимізм
Бутерін запропонував інтегрувати в мозок людини інтерфейс (BCI), щоб надати людям більший контроль над потужними формами обчислень і пізнання на основі штучного інтелекту.
BCI ─ це шлях зв’язку між електричною активністю мозку і зовнішнім пристроєм, як-от комп’ютером або роботизованою кінцівкою. За словами Бутеріна, це дасть змогу скоротити цикл двостороннього зв’язку між людиною і машиною з секунд до мілісекунд і, що важливіше, гарантувати, що люди збережуть певний ступінь значущої активності у світі.
Бутерін вважає, що цей шлях буде безпечнішим, оскільки люди зможуть брати участь в ухваленні кожного рішення ШІ.
“Ми зможемо знизити ймовірність того, що ШІ самостійно зробить щось абсолютно невідповідне цінностям людства”.
Зрештою, технооптимізм Віталіка Бутеріна коріниться в глибокому розумінні потенціалу і підводних каменів технологій. Його заклик до більш цілеспрямованого й етичного підходу до технологічного розвитку, особливо у сфері штучного інтелекту, відображає прихильність майбутньому, в якому технології поліпшать людське життя, не ставлячи під загрозу наші цінності або безпеку.
Раніше ми писали про те, що Віталік Бутерін запропонував технологію для перевірки резервів криптовалютних бірж.
Вам може бути це цікаво:
- Віталіка Бутеріна звинуватили у плагіаті та шахрайстві
- Віталік Бутерін знайшов спосіб відсіювати недобросовісних криптотрейдерів
- Віталік Бутерін розповів, як зламали його акаунт
