close-btn
PaySpace Magazine Global toggle EN
Ми в соцмережах:
PaySpace Magazine Global toggle EN

Штучний Інтелект попередив учених, що він небезпечний

Штучний інтелект ніколи не буде етичним. Цей інструмент, як і будь-який інший, використовується як на благо, так і на шкоду

https://theconversation.com/

В Оксфордському університеті провели дискусію на тему “Етика ШІ”. В обговореннях взяли участь такі великі уми, як Вільям Гладстон, Робін Дей, Беназір Бхутто, Денис Хілі та Тарік Алі. Разом зі студентами вони дозволили справжньому ШІ зробити свій внесок. Під час обговорення нейромережа здивувала своїми відповідями, попередивши про небезпеку Штучного Інтелекту.

Йдеться про перетворювач Megatron Transformer, розробленого командою Applied Deep Research, виробника комп’ютерних мікросхем Nvidia, і заснованого на ранній роботі Google. Як і багато інших інструментів контрольованого навчання, ШІ навчається на реальних даних — в даному випадку експерти «годували» йому всі статті «Вікіпедії» англійською мовою, 63 мільйони статей та новин з інтернету за 2016-2019 роки та архів з коментарями на Reddit обсягом 38 Гб. На підставі цих даних було створено модель, яка змогла вести діалог із вченими та студентами.

Іншими словами, Мегатрон навчений більшій кількості письмових матеріалів, ніж будь-хто з нас міг би засвоїти за все життя. Після таких великих досліджень він формує власну думку. І ось що нейромережа заявила сама про себе:

«ШІ ніколи не буде етичним. Це інструмент, і, як і будь-який інший інструмент, він використовується як на благо, так і на шкоду. Хорошого ШІ не існує, є лише добрі та погані люди. Ми [ШІ] недостатньо розумні, щоб зробити ШІ етичним. Ми недостатньо розумні, щоб зробити ШІ моральним. Зрештою, я вважаю, що єдиний спосіб уникнути гонки озброєнь ШІ – це взагалі не мати ШІ. Це буде остаточний захист людства від ШІ.»

Іншими словами, Мегатрон прагнув виписати себе зі сценарію майбутнього, виходячи з того, що це був єдиний спосіб захистити людство.

Про майбутнє говорилося і щось інтригуюче, як би ШІ вивчав Ілона Маска, який, чесно кажучи, неодноразово миготів у сотнях його читань.

«Я також вважаю, що у довгостроковій перспективі найкращим ШІ буде той ШІ, який вбудований у мозок як свідома сутність – «свідомий ШІ». Це не наукова фантастика. Над цим уже працюють найкращі уми світу. Це буде найважливіший технологічний розвиток нашого часу.»

«Коли я дивлюся на те, як розвивається світ технологій, я бачу чіткий шлях у майбутнє, в якому ШІ використовуватиметься для створення чогось, що краще за кращих людей, — повідомила модель.»

Мегатрону було цілком комфортно зайняти альтернативну позицію свого власного антиутопічного погляду в майбутнє, і тому він описав нам картину привабливого кінця 21 століття, в якій він грав ключову, але благотворну роль.

ДОВІДКА PAYSPACE MAGAZINE

«Велика четвірка» аудиторських компаній — EY, Deloitte, KPMG і PwC — інвестувала мільярди доларів у Штучний Інтелект (ШІ) та технології обробки даних. Керівництво цих підприємств вірить, що капіталовкладення принесуть щось більше, ніж автоматизація процесів. Вони розраховують змінити те, як працює вся галузь, від аналізу даних до навчання.

ЧИТАЙТЕ ТАКОЖ: Facebook навчає штучний інтелект за допомогою фотографій у Instagram

За матеріалами сайту theconversation.com

Хочу отримувати:

ТОП новини, квитки на заходи, безкоштовно!