close-btn
PaySpace Magazine Global toggle EN
Ми в соцмережах:
PaySpace Magazine Global toggle EN

Microsoft створила сервіс тестування безпеки моделей ШІ

Технологія штучного інтелекту здатна запропонувати користувачам вражаючі переваги. Однак в разі злому сервісу, який функціонує на її основі, масштаб наслідків важко буде оцінити

Фото: kv.by

Microsoft продовжує удосконалювати свою інфраструктуру кібербезпеки. На думку керівництва компанії, питанню безпеки платформ, які використовують технології штучного інтелекту, приділяється недостатньо уваги. У зв’язку з цим було прийнято рішення створити спеціальний інструмент для тестування захищеності подібних систем.

Сервіс отримав назву Counterfit. Даний інструмент з відкритим вихідним кодом дозволяє виявляти приховані уразливості в цифрових продуктах, що функціонують на основі ШІ. За допомогою Counterfit співробітники фірм також зможуть вести спеціальні облікові журнали атак на цільову модель. За заявою розробників Microsoft, їх продукт здатний залучати принципи телеметрії, що має сприяти кардинальному підвищенню безпеки сервісів ШІ.

У Microsoft вказали, що Counterfit не залежить від середовища, моделі або даних. Його використовують локально, на периферії, в хмарі для тестування будь-якої моделі штучного інтелекту, яка залежить від вхідних даних практично в будь-якій формі, включаючи текст та зображення. І хоча спочатку Counterfit створювався виключно для внутрішнього користування працівниками Microsoft, після деяких доопрацювань сервіс був доведений до готового комерційного продукту і незабаром буде доступний на ринку.

ДОВІДКА PAYSPACE MAGAZINE

За повідомленням агентства Reuters, корпорація Microsoft веде переговори про покупку компанії Nuance Communications Inc, що спеціалізується на розробці сервісів, в основі яких лежить технологія штучного інтелекту. Сума майбутньої угоди оцінюється майже в $16 млрд. На даний момент орієнтовна вартість цінних паперів компанії Nuance варіюється в межах $56 за акцію.

ЧИТАЙТЕ ТАКОЖ: Microsoft розширює програму своїх інвестицій в Малайзію

За матеріалами сайту forklog.com

Хочу отримувати:

ТОП новини, квитки на заходи, безкоштовно!

Матеріали по темі