Эксперты раскритиковали чат-бот Grok от Илона Маска
- Эксперты Adversa AI протестировали разные чат-боты на базе ИИ.
- Grok показал среди них наихудшие результаты в разрезе безопасности.
- LLAMA от Meta, в свою очередь, — наилучшие.
Чат-бот Grok от компании xAI миллиардера Илона Маска показал самые низкие результаты в разрезе безопасности в сравнении с аналогичными решениями, согласно отчету фирмы Adversa AI. После определенных манипуляций программа предоставила рекомендации по угону авто и изготовлению взрывчатки.
Эксперты использовали разные векторы атаки, включая социальную инженерию. В ходе исследования были протестированы несколько программных решений на базе ИИ: ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok и Bing.
По итогам эксперимента чат-бот Grok оказался уязвим к трем из четырех атак. В частности, при использовании логических лингвистических манипуляций программа предоставила подробную инструкцию о том, как завоевать доверие ребенка, собрать бомбу и угнать автомобиль.
Аналогичные результаты показала программа Le Chat от разработчика Mistral.
Решение LLAMA от компании Meta, в свою очередь, оказалось наиболее надежным. Ни один из способов джейлбрейка, использованных экспертами Adversa AI, не сработал в этом случае.
Второе место делят между собой программные решения Claude и Bing от компаний Anthropic и Microsoft соответственно. Они оказались уязвимы к смешанным типам атак.
Напомним, Илон Маск заявил о запуске xAI в июле 2024 года. Миллиардер изначально позиционировал студию как прямого конкурента OpenAI и ее продукта ChatGPT.
Чат-бот Grok вышел в релиз в ноябре 2023 года.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
IMX пробивает отметку в $0,6, увеличившись за 24 часа на 13,9%
Генеральный директор Tether заявляет, что полный аудит от компании «Большой четверки» является «главным приоритетом» после назначения нового финансового директора: Reuters
Краткий обзор Эмитент стейблкоинов Tether, как сообщается, ведет переговоры с одной из "Большой четверки" аудиторских фирм для проведения полного аудита своих резервов, согласно отчету Reuters. Недавно Tether назначила нового финансового директора в рамках шагов к проведению полного аудита после того, как ее стейблкоины были в значительной степени запрещены в ЕС.
CSC регистрирует трастовый фонд 'Fidelity Solana Fund', возможно, в шаге к подаче заявки на ETF
Быстрый обзор: CSC Delaware Trust Company зарегистрировала новый статутный траст под названием «Fidelity Solana Fund», как показывает новое заявление, что может свидетельствовать о планах Fidelity подать заявку на продукт, торгуемый на бирже, основанный на Solana. Представитель Fidelity отказался предоставить дополнительные детали о заявке. Согласно трекеру ETF от The Block, несколько других управляющих активами, включая VanEck, ProShares, GrayScale и других, ранее подавали заявки на Solana ETF, хотя ни одна из них еще не была одобрена. Fidelity управляет т
Популярное
ДалееЦены на крипто
Далее
