Die KI-Sicherheit steht im Fokus: Anthropic hat ein Tool veröffentlicht, mit dem sich kryptografisch nachweisen lässt, welches KI-Modell eine Antwort generiert hat. Zudem haben sich Google, Microsoft und OpenAI auf einen einheitlichen Standard geeinigt, mit dem Webseiten-Betreiber das KI-Training blockieren können. In den USA sorgt Google derweil für Aufsehen, weil es Schulen ohne KI-Erlaubnis den Zugang zur Google-Suche sperrt. Abgerundet wird die Nachrichtenlage durch ein massives Umsatzplus von AMD im KI-Sektor sowie einen neuen Security-Sprint bei OpenAI.
Oftmals bleibt unklar, ob ein KI-Anbieter wirklich das versprochene, leistungsstarke Modell im Hintergrund verwendet oder heimlich auf eine günstigere Variante ausweicht. Wie das Portal all-ai.de berichtet, hat das KI-Unternehmen Anthropic nun mit „FlashProve“ einen Open-Source-Prototyp vorgestellt, der genau dieses Problem lösen soll. Das System erstellt einen digitalen Fingerabdruck der Modellgewichte und generiert anschließend einen sogenannten zkSNARK-Nachweis. Dieser kryptografische Beweis garantiert, dass ein ausgegebener Text tatsächlich von exakt diesem Modell stammt.
Ein heimlicher Austausch des Modells oder manipulierte Antworten würden bei dieser Prüfung sofort durchfallen, ohne dass die Anbieter ihre geheimen Modellgewichte offenlegen müssen. Für den ersten Testlauf verwendete Anthropic eine 4-Bit-Version des Modells Llama 4 Maverick mit 400 Milliarden Parametern. Die Überprüfung durch den Empfänger dauert auf einer Standard-CPU nur wenige Sekunden. Obwohl FlashProve aktuell noch Limitierungen bei der Kontextlänge aufweist, demonstriert der Prototyp eindrucksvoll, wie euer Vertrauen in KI-Dienste künftig technisch untermauert werden könnte.
Einheitlicher KI-Opt-out kommt
Für Website-Betreiber war es bislang mühsam, das massenhafte Auslesen ihrer Inhalte (Scraping) für das Training von KI-Modellen zu verhindern, da jeder Anbieter eigene Crawler und Regeln nutzte. Laut einem Bericht von OnlineMarketing.de ziehen nun jedoch die größten Akteure an einem Strang: Google, Microsoft und OpenAI wollen künftig ein gemeinsames Opt-out-Signal unterstützen. Interessanterweise basiert der Entwurf für diesen einheitlichen Standard auf einem Vorschlag von Anthropic. Damit dürfte es für euch künftig deutlich einfacher werden, eure eigenen Inhalte gezielt vor dem automatisierten KI-Training zu schützen.
Google sperrt Suche für Schulen ohne KI
In den USA geht Google derzeit hart gegen Schulen vor, die den Einsatz von KI im Unterricht blockieren wollen. Wie Der Spiegel und The Guardian übereinstimmend melden, verlieren K-12-Schüler den Zugriff auf die reguläre Google-Suche, wenn Schuladministratoren die Nutzung von Google-KI-Werkzeugen wie Gemini explizit deaktivieren. Google argumentiert, dass die Suche und Künstliche Intelligenz mittlerweile so eng verzahnt seien, dass eine technische Trennung unmöglich sei. Für die betroffenen Schulen wirkt dieser Schritt jedoch wie eine massive Einschränkung ihrer Entscheidungsfreiheit beim Umgang mit generativer KI.
AMD mit Rekord-Umsatz im KI-Sektor
Dass die Nachfrage nach KI-Hardware weiterhin ungebrochen ist, zeigen die neuesten Quartalszahlen von AMD. Laut offizieller Mitteilung verzeichnete der Chiphersteller ein Rekordquartal, bei dem der Umsatz im Rechenzentrums-Segment im Vergleich zum Vorjahr um satte 97 Prozent gestiegen ist. Als Haupttreiber nennt AMD die massiven Verkäufe seiner Instinct-Grafikprozessoren (GPUs) sowie der EPYC-CPUs. Auch wenn der Branchenprimus Nvidia den Markt weiterhin dominiert, untermauert AMD mit diesen Zahlen seine Rolle als stärkster Herausforderer – was für euch als Tech-Nutzer perspektivisch mehr Wettbewerb bedeutet.
OpenAI startet Security-Sprint
Das KI-Unternehmen OpenAI rüstet sich gegen Cyberbedrohungen und hat einen neuen internen Sicherheits-Sprint angekündigt. In Zusammenarbeit mit der Sicherheitsfirma Cathedral sollen die eigenen KI-Modelle genutzt werden, um proaktiv Schwachstellen in der OpenAI-Infrastruktur zu finden und zu beheben. Gleichzeitig hat das Unternehmen die Prämien in seinem Bug-Bounty-Programm für das Entdecken kritischer Sicherheitslücken mehr als vervierfacht. Damit reagiert OpenAI auf die wachsende Komplexität der IT-Sicherheit und den dringenden Bedarf, potenzielle Fehlerquellen noch vor externen Angreifern zu identifizieren.
Dieser Beitrag wurde mit KI-Unterstützung recherchiert und erstellt und vor der Veröffentlichung redaktionell geprüft. Das Beitragsbild ist eine KI-generierte Illustration. Fehler entdeckt? Schreib an admin@nachbaum.de.
