Bitget App
Trade smarter
Krypto kaufenMärkteTradenFuturesBotsEarnCopy
Die KI -Sicherheit von Google unter Kontrolle nach Gemini -Bericht unter Kontrolle

Die KI -Sicherheit von Google unter Kontrolle nach Gemini -Bericht unter Kontrolle

CryptoNewsNetCryptoNewsNet2025/04/18 13:33
Von:cryptopolitan.com

Google teilte ein Sicherheitspapier über sein Flaggschiff -Modell für künstliche Intelligenz, Gemini 2.5 Pro. Experten sagen, es lässt wichtige Risiken ungeklärt.

Das Unternehmen hat das technische Papier am Donnerstag veröffentlicht, einige Wochen nach der Veröffentlichung von Gemini 2.5 Pro für Kunden. Das Dokument listet die internen Tests auf, die Google auf dem Modell durchgeführt hat, bietet jedoch nur wenige Fakten darüber, wie sich das System unter Überlastung oder Missbrauch verhält. Forscher, die das Papier überprüften, teilten TechCrunch , dass die fehlenden Details schwierig sind, zu beurteilen, ob Gemini 2.5 Pro für einen breiten Gebrauch wirklich sicher ist.

Technische Berichte sind eine der wichtigsten Möglichkeiten, wie die Öffentlichkeit lernt, was fortschrittliche KI -Systeme tun können und was nicht. Ein gründlicher Bericht zeigt häufig, wo ein Modell fehlschlägt und wo es missbraucht werden kann. Viele AI -Forscher behandeln diese Papiere als ehrliche Bemühungen, die Sicherheitsansprüche eines Unternehmens zu sichern.

Google behandelt die Sicherheitsberichterstattung unterschiedlich.

Google veröffentlicht erst einen Bericht, nachdem ein Modell nicht mehr mit dem Titel „Experimental“ gekennzeichnet ist, und es wird bestimmte „gefährliche Fähigkeiten“ in ein separates Audit verschoben, das nicht sofort veröffentlicht wird. Infolgedessen deckt das öffentliche Papier nicht jede Bedrohung ab, auf die Google getestet hat.

Mehrere Analysten sagten, das neue Dokument von Gemini 2.5 Pro sei ein starker Fall einer begrenzten Offenlegung. Sie stellten auch fest, dass der Bericht nie auf Googles Frontier -Sicherheitsrahmen oder FSF bezieht, eine Richtlinie, die das Unternehmen im vergangenen Jahr angekündigt hat, um zukünftige KI -Befugnisse zu erkennen, die „schwere Schäden“ verursachen könnten.

"Dieser Bericht ist sehr spärlich, enthält minimale Informationen und ist Wochen nach der Öffentlichkeit des Modells angekommen", sagte Peter Wildford, Mitbegründer des Instituts für KI -Richtlinien und -Strategie. "Es ist unmöglich zu bestätigen, ob Google seine eigenen Versprechen einhält, und daher unmöglich, die Sicherheit seiner Modelle zu beurteilen."

Thomas Woodside, Mitbegründer des Secure AI Project, sagte, er sei froh, dass überhaupt kein Papier erschienen sei, aber er bezweifelte Googles Plan, stetige Follow -ups zu veröffentlichen. Er wies darauf hin, dass das letzte Mal, als das Unternehmen die Ergebnisse von Dangerous -Capability -Tests teilte, Juni 2024 war und dass das Papier ein im Februar desselben Jahr angekündigter Modell abdeckte.

Das Vertrauen ging weiter aus, als Beobachter kein Sicherheitspapier für Gemini 2.5 Flash sahen, ein schlankeres und schnelleres Modell, das Google letzte Woche enthüllte. Ein Unternehmenssprecher sagte, dass ein Flash -Papier „bald kommt“.

"Ich hoffe, dies ist ein wirkliches Versprechen, häufigere Updates zu geben", sagte Woodside. "Diese Updates sollten Ergebnisse für Modelle enthalten, die die Öffentlichkeit noch nicht erreicht haben, da diese Modelle auch ernsthafte Risiken darstellen können."

Google fällt jetzt nicht in der Transparenz einher

Sicherheitsnotiz von Meta für seine neuen Lama 4 -Modelle läuft nur wenige Seiten, während Openai entschied, keinen Bericht über die GPT -4,1 -Serie zu veröffentlichen.

Der Detailmangel kommt zu einer angespannten Zeit. Vor zwei Jahren teilte der US -Regierung mit, dass es Sicherheitsarbeiten für jedes „bedeutende“ KI -Modell innerhalb des Umfangs veröffentlichen würde. “ Das Unternehmen hat Beamten in anderen Ländern ähnliche Zusagen vorgenommen und sagte, es würde „öffentliche Transparenz“ über seine KI -Produkte anbieten.

Kevin Bankston, Senior Adviser bei AI Governance am Center for Democracy and Technology, bezeichnete die Veröffentlichungen von führenden Labern ein „Rennen auf dem Boden“ auf Sicherheit.

"In Kombination mit Berichten, dass konkurrierende Labors wie OpenAI vor der Veröffentlichung von Monaten bis Tagen die Sicherheits -Testzeit verkürzt haben, erzählt diese dürftige Dokumentation für Googles Top -Modell eine beunruhigende Geschichte eines Rennens nach KI -Sicherheit und -transparenz, während Unternehmen ihre Modelle auf den Markt bringen", fügte er hinzu.

Google sagt, dass ein Großteil seiner Sicherheitsarbeit hinter verschlossenen Türen geschieht. Das Unternehmen gibt an, dass jedes Modell vor jeder öffentlichen Start strenger Tests unterliegt, einschließlich „kontrovers rotes Teaming“.

0

Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.

PoolX: Locked to Earn
APR von bis zu 10%. Mehr verdienen, indem Sie mehr Lockedn.
Jetzt Lockedn!

Das könnte Ihnen auch gefallen

Term Finance erholt $1 Million von einem Verlust von $1,6 Millionen aufgrund eines Fehlers in der Orakel-Konfiguration

Kurzer Überblick Das auf Ethereum basierende Kreditprotokoll Term Finance verlor am Samstag etwa $1,6 Millionen an ETH aufgrund eines fehlkonfigurierten Orakels. Term gab an, dass durch interne Erfassung und Verhandlungen über $1 Million an Geldern wiedererlangt wurden. Das Team wird das verbleibende Defizit aus der Protokollkasse decken und plant, einen detaillierten Bericht zu veröffentlichen. Impermax Finance, ein kleines DeFi-Protokoll, verlor bei einem Blitzkreditangriff am Samstag $150.000.

The Block2025/04/28 00:56
Term Finance erholt $1 Million von einem Verlust von $1,6 Millionen aufgrund eines Fehlers in der Orakel-Konfiguration

Kryptomärkte am Sonntagvormittag überwiegend im Minus – Nur NEO mit leichtem Plus

Zusammenfassung des Artikels Am Sonntagvormittag verzeichneten die meisten Coins Verluste, während NEO als einziger Gewinner hervorging und der Top 10 Crypto-ETP ein Tagesplus erzielte.

Kryptomagazin2025/04/27 23:55
Kryptomärkte am Sonntagvormittag überwiegend im Minus – Nur NEO mit leichtem Plus

Ethereum zwischen Kritik, Kursrally und neuen Rivalen – Zukunft der Blockchain im Fokus

Zusammenfassung des Artikels Ethereum steht zwischen pessimistischen Prognosen und Hoffnung auf eine Renaissance, getrieben von institutionellen Zuflüssen, Innovationen und Konkurrenz durch neue Coins.

Kryptomagazin2025/04/27 23:55
Ethereum zwischen Kritik, Kursrally und neuen Rivalen – Zukunft der Blockchain im Fokus

Bitget wird rechtliche Schritte gegen 8 Konten einleiten, die verdächtigt werden, durch VOXEL-Handelsmanipulationen 20 Millionen Dollar profitiert zu haben

Schnelle Zusammenfassung Die Kryptobörse Bitget hat angekündigt, rechtliche Schritte gegen die Nutzer hinter acht Konten einzuleiten, die verdächtigt werden, einen der Plattformmärkte zu manipulieren und dadurch illegal 20 Millionen Dollar profitiert zu haben. Die Plattform hat versprochen, alle wiederhergestellten Gelder in Form eines Airdrops an die Plattformnutzer zurückzugeben.

The Block2025/04/27 19:01
Bitget wird rechtliche Schritte gegen 8 Konten einleiten, die verdächtigt werden, durch VOXEL-Handelsmanipulationen 20 Millionen Dollar profitiert zu haben