Целью CoSAI является создание безопасных систем искусственного интеллекта с использованием фреймворков с открытым исходным кодом
Фото: freepik.com
Технологические гиганты Google, Microsoft, Nvidia и OpenAI, среди прочих, создали Коалицию за безопасный ИИ (CoSAI). Объявленная на Форуме по безопасности в Аспене, CoSAI имеет целью создать надежные рамки и стандарты безопасности для разработки и развертывания искусственного интеллекта.
CoSAI, возглавляемая Google, объединяет ведущие технологические компании и организации. Согласно объявлению, среди членов-основателей — Amazon, Anthropic, Cisco, Cohere, IBM, Intel, Microsoft, Nvidia, OpenAI, PayPal и Wiz.
В частности, эта коалиция имеет целью создание безопасных систем искусственного интеллекта, используя методологии с открытым исходным кодом и стандартизированные фреймворки. В заявлении подчеркивается важность создания системы безопасности для искусственного интеллекта, которая базируется на ранее представленном документе Secure AI Framework (SAIF).
Коалиция сосредоточится на трех основных направлениях работы: безопасность цепочки поставок программного обеспечения для систем ИИ, подготовка защитников к меняющемуся ландшафту кибербезопасности и управление безопасностью ИИ.
Фокус на безопасности искусственного интеллекта
Дэвид ЛаБианка, сопредседатель Совета директоров CoSAI из Google, отметил:
«Создание CoSAI было обусловлено необходимостью демократизации знаний и достижений, необходимых для безопасной интеграции и развертывания искусственного интеллекта.»
Омар Сантос из Cisco поддержал эту мысль, подчеркнув важность сотрудничества между ведущими компаниями и экспертами для разработки надежных стандартов безопасности ИИ. Сообщество CoSAI с открытым исходным кодом приветствует технический вклад от всех заинтересованных сторон.
CoSAI будет существовать в рамках Организации по развитию стандартов структурированной информации (OASIS), некоммерческой группы, способствующей развитию открытых стандартов. OASIS также приглашает к дополнительной спонсорской поддержке компании, занимающиеся разработкой и внедрением ИИ.
Поскольку технология ИИ продолжает развиваться, роль CoSAI в создании стандартизированных практик безопасности становится все более важной. Обращаясь к уникальным рискам, связанным с системами искусственного интеллекта, CoSAI стремится обеспечить, чтобы разработка и внедрение ИИ осуществлялись ответственно и безопасно.
Эта коалиция между технологическими гигантами знаменует собой значительный шаг вперед на пути к безопасному и надежному ИИ.
Ранее мы писали о том, что какие компании могут выиграть от бума ИИ.
Вы могли пропустить:
- Microsoft выпустила ИИ-редактор для смартфонов: что он умеет
- DeepL запускает языковую модель, превосходящую Google Translate
- Украинская IT-компания разработала конкурента ChatGPT
По материалам coingape.com
