Компанія OpenAI, співзасновник якої Ілон Маск, розробила дійсно неймовірний штучний інтелект. Але окрім ChatGPT є ще цікаві роботи, також безкоштовні, точні та потужні
Artificial intelligence Фото: udifytech.com
2022 був шаленим роком для машинного навчання та досліджень у сфері штучного інтелекту. Технологічні компанії випустили безліч роботів, розрахованих на різні задачі (перетворення зображень, написання тексту, генерація відповідей на запитання тощо).
Однією з найяскравіших зірок став ChatGPT, який штурмом захопив інтернет. Це чат-бот, найновіша текстова нейромережа, яка оптимізована під ведення діалогів з людьми. Детальніше про нього читайте в матеріалі.
Але далеко не єдиний ChatGPT заслуговує уваги. Розглянемо шість не менш перспективних та цікавих ШІ, які можуть конкурувати з творінням OpenAI.
OPT
Для початку слід згадати про ШІ від Meta, який називається Open Pretrained Transformer, або OPT (відкритий попередньо навчений трансформатор). Він має кілька цікавих особливостей, які роблять його життєздатною заміною GPT.
Наприклад, коли справа доходить до оцінки Zero-Shot NLP (обробка природної мови, де модель навчається на наборі позначених прикладів, але потім може класифікувати нові приклади з раніше невидимих класів), OPT демонструє такі ж результати, як і ChatGPT.
Якщо говорити про виявлення мови ворожнечі, OPT демонструє неперевершені результати, фактично обійшовши навіть DaVinci (оновлену версію GPT-3). Так, якщо цей критерій є пріоритетним, OPT стає найбільш привабливим варіантом.
Ще одним цікавим аспектом цієї моделі є енергоефективність. Навчальний OPT використовує лише 1/7 від вуглецевого сліду GPT-3. Це підвищує його життєздатність на ринку. Якщо коротко, це було досягнуто завдяки поєднанню відкритого API Fully Sharded Data Parallel (FSDP) від Meta та тензорної паралельної абстракції NVIDIA в Megatron-LM.
Цікавий факт, Meta працюють над власним ШІ повністю відкрито, ділячись власними моделями, навчальними даними, журналами тощо. Це безпрецедентний крок, який несе багато позитивних наслідків для сектору машинного навчання.
Модель OPT має великий потенціал, коли справа доходить до заміни GPT, враховуючи, що вона розроблялась як альтернатива йому. Однак Meta — не єдиний технологічний гігант, який має свою конячку на перегонах.
ЧИТАЙТЕ ТАКОЖ: Штучний інтелект отримав право захищати людину в суді як справжній адвокат — DoNotPay
Open Pretrained Transformer (OPT) Фото: exchange.scale.com
PALM
Щоб зрозуміти, чому модель PaLM (Pathways Language Model) є такою дивовижною, потрібно спочатку зрозуміти екосистему Pathways (це архітектура Google, на базі якої створюються мовні моделі).
Екосистема Google Pathways була анонсована досить гучно. Цього року вона досягла значних успіхів завдяки таким моделям, як Flamingo, Gato та захоплюючий PaLM. Ці розробки сколихнули простір машинного навчання і зробили значний внесок у галузь.
Так, архітектура Pathways зробила 3 основні внески в парадигму великих мовних моделей:
- Мультимодальне навчання. Моделі Pathways навчаються на різних типах даних, включаючи відео, зображення і текст, серед іншого. Це робить їх дуже відмінними від GPT, яка в основному базується на тексті.
- Розріджена активація. Замість того, щоб використовувати всю архітектуру для кожного висновку, лише підмножина нейронів використовується для будь-якої однієї задачі. В результаті ШІ може користуватися перевагами великої кількості нейронів (краща продуктивність, більше завдань), зберігаючи при цьому низькі експлуатаційні витрати. Це і було головним компонентом.
- Використання декількох сенсорів. Одна справа, коли модель може сприймати кілька типів вхідних даних для різних завдань, набагато складніше для моделі використовувати кілька типів вхідних даних для однієї і тієї ж задачі. Моделі, що використовують архітектуру Pathways, здатні це робити, що надає їм набагато більшої гнучкості.
Таким чином, багато в чому ця установка може бути навіть кращою, ніж ChatGPT. Чи реалізується її потенціал, побачимо згодом.
Нагадаємо, нещодавно ми писали, як обійти заборону ChatGPT в Україні. Та самостійно протестили лайфхак, і запитали штучний інтелект: що він думає про розвиток фінтеху та криптовалют в Україні, відновлення економіки, перспективи банківського сектору та інвестиційний клімат у 2023 році. Що з цього вийшло, читайте в нашій статті.
ЧИТАЙТЕ ТАКОЖ: Штучний інтелект порушує авторські права: хто й за що подав судовий позов на розробників ШІ?
PaLM (Pathways Language Model) Фото: pbs.twimg.com
Sphere
Дослідники машинного навчання з Meta випустили нову велику мовну модель (LLM) під назвою Sphere. Завдяки її дивовижній продуктивності у вирішенні завдань, пов’язаних з пошуком, та здатності аналізувати мільярди документів, у поєднанні з іншими напрацюваннями Meta в галузі NLP, вона має всі шанси підірвати ринок пошукових сервісів.
Sphere здатна переглядати великі масиви інформації, щоб відповісти на запитання. Вона може перевіряти цитати і навіть пропонувати альтернативні цитати, які б краще відповідали змісту, чого раніше не зустрічалось ніде.
Можливості Sphere дають їй цікавий потенціал. Можливо, цього недостатньо, щоб замінити Google як універсальну пошукову систему. Однак, коли мова йде про пошукові системи для досліджень, це буде знахідкою.
Sphere — це модель, яка має найбільшу комерційну життєздатність серед усіх моделей LLM.
Meta Фото: cxonews.live
BLOOM
BLOOM — це авторегресійна модель великої мови (LLM), навчена продовжувати текст із підказки на величезних обсягах текстових даних, використовуючи обчислювальні ресурси промислового масштабу. Таким чином, вона здатна виводити зв’язний текст 46 мовами та 13 мовами програмування, який важко відрізнити від тексту, написаного людиною. BLOOM також можна доручити виконувати текстові завдання, для яких він не був спеціально навчений, поставивши їх як завдання з генерації тексту.
Мало хто вбачає суттєву різницю між BLOOM і GPT. І це не випадково. BLOOM був створений, щоб зруйнувати залежність Big Tech від «великих моделей». Протягом останніх кількох років технологічні компанії проводять дослідження з використанням шалених обчислювальних потужностей, які звичайні дослідники/групи не можуть відтворити. Це унеможливлює перевірку та критику досліджень, які проводять великі технологічні компанії, з боку незалежних людей.
Так, BLOOM хоч і не настільки потужний, як ChatGPT (або інші моделі з цього списку), але має відкритий вихідний код і сприяє вільним дослідженням. Він є чудовою альтернативою іншим ТОП-гравцям галузі.
ЧИТАЙТЕ ТАКОЖ: Штучний інтелект Midjourney може замінити художників — оновлення нейромережі
BLOOM Фото: bulldogjob.com
Galactica
Це ще одна модель від Meta, черговий еквівалент ChatGPT, але вже орієнтований на дослідників.
«Уявіть собі ChatGPT, але натренований на великій кількості наукових текстів. Така модель могла б пояснювати математичні формули, допомагати вам писати статті тощо», — кажуть експерти.
На жаль, навколо цієї моделі було багато суперечок, які призвели до того, що Мета її прибрала. Однак, існують сподівання та певні передумови, що гігант незабаром поверне її назад.
Нагадаємо, що штучний інтелект навчився трансформувати відео: Runway випустив Gen-1.
Galactica, Meta Фото: https://mezha.media/
Google Bard
І наостанок — найяскравіше протистояння сучасності в сфері штучного інтелекту — Bard проти ChatGPT.
Google анонсувала свою останню версію ШІ в розрахунку, що вона допоможе конкурувати з новим роботом, який підтримує Microsoft (не даремно ChatGPT вже прозвали «вбивцею Google»), та залишитись домінуючою пошуковою системою в інтернеті.
ЧИТАЙТЕ ТАКОЖ: Штучний інтелект в якості письменника: стартує альфа-тестування Notion AI
До слова, пошукова система від виробника Windows, відома під назвою Bing, нещодавно отримала новий унікальний функціонал, що дозволить пошуковику більш ефективно протистояти в конкурентній боротьбі з Google і Baidu. Цього тижня в Microsoft заявили, що в Bing додали алгоритм штучного інтелекту — такий самий, як і в гучному ChatGPT.
Повернемось до Google Bard, — це пошуковий асистент зі штучним інтелектом. Він працюватиме у фоновому режимі пошукових запитів, щоб генерувати короткий текстовий підсумок результатів, а не просто індекс посилань.
«Оскільки люди звертаються до Google за більш глибокими знаннями та розумінням, штучний інтелект може допомогти нам дістатися до суті того, що вони шукають, — заявив виконавчий директор Alphabet Сундар Пічаї (Sundar Pichai). — Ми починаємо з функцій на основі ШІ в Пошуку, які перетворюють складну інформацію в легкі для сприйняття формати, щоб ви могли бачити загальну картину, а потім досліджувати більше».
Google Bard працює, скануючи інтернет і «вивчаючи» асоціативні слова, фрази та ідеї. Скріншоти, якими поділився Google, показують, як це працюватиме на практиці: користувачі можуть вводити повні речення або питання в пошукову систему і отримувати речення у відповідь.
Наприклад, якщо ввести питання на кшталт «про які нові відкриття телескопа Джеймса Вебба я можу розповісти своїй 9-річній дитині», пошукова система згенерує простий текстовий підсумок останніх новин щодо космічного телескопа.
Bard & ChatGPT Фото: lifestyleasia.com
Останнім потужним конкурентом ChatGPT в найближчому майбутньому також може стати китайський ШІ від пошукової системи Baidu. За даними з відкритих джерел, цей робот може бути презентований вже у березні 2023 року, після чого буде інтегрований в основні сервіси пошуковика. Детальніше читайте у матеріалі.
ЧИТАЙТЕ ТАКОЖ:
Тайвань використовує штучний інтелект для боротьби з мобільним шахрайством
Штучний інтелект викорінюватиме токсичність в онлайн-іграх
За матеріалами medium.com.
