close-btn
PaySpace Magazine Global toggle EN
Мы в соцсетях:
PaySpace Magazine Global toggle EN

Microsoft создала сервис тестирования безопасности ИИ-моделей

Технология искусственного интеллекта способна предложить пользователям впечатляющие преимущества. Однако в случае взлома сервиса, функционирующего на ее основе, масштаб последствий трудно будет оценить

Фото: kv.by

Microsoft продолжает совершенствовать свою инфраструктуру кибербезопасности. По мнению руководства компании, вопросу безопасности платформ, использующих технологии искусственного интеллекта, уделяется недостаточно внимания. В связи с этим было принято решение создать специальный инструмент для тестирования защищенности подобных систем.

Сервис получил название Counterfit. Данный инструмент с открытым исходным кодом позволяет выявлять скрытые уязвимости в цифровых продуктах, функционирующих на основе ИИ. С помощью Counterfit сотрудники фирм также смогут вести специальные учетные журналы атак на целевую модель. По заявлению разработчиков из Microsoft, их продукт способен задействовать принципы телеметрии, что должно способствовать кардинальному повышению безопасности ИИ-сервисов.

В Microsoft указали, что Counterfit не зависит от среды, модели и данных. Его используют локально, на периферии, в облаке для тестирования любой модели искусственного интеллекта, которая зависит от входных данных практически в любой форме, включая текст и изображения. И хотя изначально Counterfit разрабатывался исключительно для внутреннего пользования работниками Microsoft, после некоторых доработок сервис был доведен до готового коммерческого продукта и вскоре будет доступен на рынке.

СПРАВКА PAYSPACE MAGAZINE

По сообщению агентства Reuters, корпорация Microsoft ведет переговоры о покупке компании Nuance Communications Inc, специализирующейся на разработке сервисов, в основе которых лежит технология искусственного интеллекта. Сумма будущей сделки оценивается почти в $16 млрд. На данный момент ориентировочная стоимость ценных бумаг компании Nuance варьируется в пределах $56 за акцию.

ЧИТАЙТЕ ТАКЖЕ: Microsoft расширяет программу своих инвестиций в Малайзию

По материалам сайта forklog.com

Хочу получать:

ТОП новости, билеты на мероприятия, бесплатно!

Материалы по теме