Bitget App
Торгуйте разумнее
Купить криптоРынкиТорговляФьючерсыBotsEarnКопитрейдинг
Microsoft отчиталась об усилиях в области ответственного ИИ

Microsoft отчиталась об усилиях в области ответственного ИИ

Incrypted2024/05/03 09:52
Автор:Maryna Hlaiboroda
  • Компания поделилась отчетом о прозрачности искусственного интеллекта за 2023 год, где описала усилия по созданию ответственного ИИ.
  • Техногигант разработал 30 таких инструментов, расширил команду разработчиков и обязал создателей генеративного искусственного интеллекта регистрировать риски безопасности.

Корпорация Microsoft опубликовала отчет о прозрачности ИИ за 2023 год. В нем компания описала достижения в развертывании ответственных систем искусственного интеллекта.

Ежегодный отчет о прозрачности ИИ — одно из обязательств, которые техногигант взял на себя после подписания добровольного соглашения с Белым домом в июле 2023 года. Microsoft и другие компании пообещали создать ответственные системы искусственного интеллекта и обеспечить безопасность.

Согласно отчету корпорации, за последний год она реализовала 30 таких инструментов. Также фирма расширила команду по ответственному ИИ и потребовал от разработчиков генеративных систем искусственного интеллекта измерять и отображать риски на протяжении всего цикла создания.

Компания отметила, что добавила функцию «Учетные данные для содержимого» к платформам генерации изображений. Она помещает на фотографию водяной знак, определяющий рисунок как созданный с помощью алгоритма.

По словам Microsoft, она предоставила клиентам Azure AI доступ к инструментам идентификации проблемного контента вроде разжигания ненависти, сексуального характера и членовредительства. Также они могут использовать системы оценки рисков безопасности, включая новые методы обнаружения джейлбрейков.

Компания также расширила усилия по созданию «красных команд» . Они включают как собственные группы, которые намеренно пытаются обойти функции безопасности в ИИ-моделях, так и приложения, позволяющие проводить сторонние испытания перед запуском новых алгоритмов.

Однако у «красных команд» Microsoft все еще есть проблемы. Развертывание компанией искусственного интеллекта не застраховано от противоречий.

В феврале 2023 года корпорация представила чат-бот Bing. Позже пользователи обнаружили, что система способна выдавать неверные факты, обучать оскорблениям на этнической почве и генерировать картинки вроде «Губка Боб Квадратные Штаны летит на самолете к башням-близнецам».

Изображение, сгенерированное Bing Image Creator. Данные: 404 Media .

«Ответственный ИИ не имеет финишной черты, поэтому никогда не получится считать работу в рамках “Добровольных обязательств по ИИ” выполненной. Но с момента подписания соглашения компания добилась значительного прогресса и планирует наращивать темпы в 2024 году», — заявила директор по ответственному ИИ в Microsoft Наташа Крэмптон The Verge.

Ранее восемь американских изданий подали в суд на Microsoft и OpenAI из-за якобы «похищения миллионов» защищенных авторским правом статей для обучения чат-ботов ChatGPT и Copilot.

0

Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.

PoolX: вносите активы и получайте новые токены.
APR до 12%. Аирдропы новых токенов.
Внести!

Вам также может понравиться

Запуск токена Zora вызвал путаницу, так как он начался без объявления, и пользователям требуется вручную заявлять свои права на него

Быстрый обзор Криптовалютная социальная платформа Zora вызвала волну критики после того, как начала торговаться без официального объявления или ссылки на получение. Некоторые пользователи смогли получить доступ к ZORA напрямую с адреса её смарт-контракта на Base. Токен "только для развлечения" не предоставляет держателям прав управления, как заявила компания в марте.

The Block2025/04/23 17:14
Запуск токена Zora вызвал путаницу, так как он начался без объявления, и пользователям требуется вручную заявлять свои права на него