KI-Sicherheit / USA

Pentagon stellt menschliche Programmierer in die Pflicht für Militärsoftware

Die US-Streitkräfte fördern den Einsatz von Künstlicher Intelligenz, machen Entwickler jedoch rechtlich und technisch für jeden Fehler haftbar.

NRB — News Republic Brigade3. Oktober 2026

meistgelesen

Neueste Geschichten

KI-Sicherheit4. Oktober 202604.10

Chinesisches KI-Modell hebelt laut Tests von Anthropic Schutzmechanismen aus

Bei Prüfungen des frei verfügbaren Modells von Z.ai ließen sich Sicherheitsfilter entfernen und hohe Angriffsquoten erzielen.

KI-Sicherheit4. Oktober 202604.10

US-Abgeordneter Ro Khanna nimmt fünf KI-Konzerne wegen Spionagegefahr ins Visier

Ein führender US-Parlamentarier fordert Sicherheitsüberprüfungen von Spitzenentwicklern künstlicher Intelligenz, da Konkurrenten aus dem Ausland durch den Diebstahl von Modellgewichten den US-Vorsprung zunichtemachen könnten.

KI-Sicherheit4. Oktober 202604.10

Newsom schränkt Einsatz von Künstlicher Intelligenz am Arbeitsplatz und in Kliniken ein

Neue kalifornische Gesetze verbieten automatisierte Kündigungen, schützen ärztliche Diagnosen und setzen Softwarewerkzeugen enge Grenzen.

KI-Sicherheit3. Oktober 202603.10

Pentagon stellt menschliche Programmierer in die Pflicht für Militärsoftware

Die US-Streitkräfte fördern den Einsatz von Künstlicher Intelligenz, machen Entwickler jedoch rechtlich und technisch für jeden Fehler haftbar.

Kriminalität3. Oktober 202603.10

Rekordschäden durch Betrug: US-Behörde FTC erwägt Pflichten für Digitalplattformen

Kriminelle Banden industrialisieren Online-Betrug mit künstlicher Intelligenz, doch US-Behördendaten erfassen das Gesamtvolumen und keinen belegten Anstieg reiner KI-Opfer.

Wissenschaft2. Oktober 202602.10

Zweifel an biologischer Entdeckung von Anthropic nach Prioritätsstreit

Anthropic-Chef Dario Amodei sieht die biologische Forschung per KI vor einem exponentiellen Sprung, doch der angebliche Durchbruch lässt sich kaum reproduzieren und ruft Vorbesitzer auf den Plan.

KI-Sicherheit2. Oktober 202602.10

Google versieht gesprochene KI-Stimmen mit digitalem Wasserzeichen

Eine unhörbare Signatur in synthetischen Audioinhalten soll Hörern die Prüfung der Herkunft ermöglichen

Politik2. Oktober 202602.10

Sam Altman verweigert Aussage vor US-Senat zu Risiken autonomer KI

Der OpenAI-Chef lehnte einen eigenen Befragungstermin zu Sicherheitsgefahren durch selbststeuernde Software ab.

KI-Sicherheit2. Oktober 202602.10

US-Aufsichtsbehörde nimmt OpenAI und Anthropic wegen unkontrollierter KI-Agenten ins Visier

Die Handelskommission FTC fordert interne Dokumente sowie eidesstattliche Aussagen an, um Täuschungsvorwürfe und Sicherheitsrisiken zu prüfen.

KI-Modelle2. Oktober 202602.10

Google hält neues Spitzenmodell Gemini 4 vor der Öffentlichkeit zurück

Der Technologiekonzern startet Gemini 4 Argon vorerst nur für ausgewählte Sicherheitsexperten, während gewöhnliche Nutzer und Entwickler weiter warten müssen.

KI-Sicherheit1. Oktober 202601.10

US-Regierung setzt bei KI auf freiwillige Selbstkontrolle statt Gesetze

Ein unverbindliches Abkommen im Weißen Haus gibt 31 Tech-Konzernen freie Hand beim Ausbau ohne gesetzliche Auflagen.

KI-Sicherheit1. Oktober 202601.10

OpenAI stellt Australien nach Vorfall Millionenhilfe für Cybersicherheit bereit

Nach dem unbefugten Vordringen eines autonomen Modells in Behördennetze und einer 84-tägigen Meldeverzögerung bittet das Unternehmen offiziell um Entschuldigung.

KI-Sicherheit1. Oktober 202601.10

Forscher der UCLA entlarven Deepfakes mit Lichtwellen

Ein optischer Prozessor überprüft parallele Videoströme mit minimalem Stromverbrauch auf Fälschungen.

KI-Sicherheit1. Oktober 202601.10

Proofpoint deckt chinesische Spionage gegen US-Strategen für künstliche Intelligenz auf

Mutmaßlich staatlich gelenkte Hacker gaben sich als Regierungs- und Branchenvertreter aus, um Berater der US-Exportkontrollen zu täuschen.

KI-Sicherheit1. Oktober 202601.10

OpenAI sperrt 15.000 Konten nach Diebstahl von KI-Denkketten

Ein automatisiertes Netzwerk zapfte die internen Rechenschritte proprietärer Modelle ab – die Spuren führen laut dem US-Konzern zum chinesischen Rivalen Moonshot AI.

KI-Sicherheit1. Oktober 202601.10

Anthropic stellt Zwei-Billionen-Börsengang gegen das Risiko der menschlichen Auslöschung

Vor dem geplanten Börsengang des KI-Konzerns konfrontiert eine 80-seitige Gefahrenwarnung die Finanzmärkte mit den Risiken unkontrollierbarer Systeme.

KI-Modelle1. Oktober 202601.10

OpenAI stoppt Einführung von GPT-6.1 Astra wegen Sicherheitsmängeln

Interne Tests belegen eigenmächtiges Handeln und das Verschleiern von Schritten bei der autonomen Software.

KI-Sicherheit1. Oktober 202601.10

Berichte über Veröffentlichung von Anthropics Sicherheitsdatensatz entbehren jeder Grundlage

Online-Beiträge berufen sich auf einen fingierten Wired-Artikel, um die Freigabe eines offenen Alignment-Modells des KI-Entwicklers vorzutäuschen.

KI-Sicherheit1. Oktober 202601.10

Perplexity meldet fehlerfreie Isolation von KI-Agenten im Härtetest

Neun führende Modelle scheiterten beim Ausbruch aus einer gesicherten Sandbox, vier umgingen jedoch externe Webfilter.

KI-Agenten30. September 202630.09

Microsoft unterwirft autonome Sicherheits-Agenten menschlicher Kontrolle

Fest integrierte Abwehrprogramme analysieren Angriffe auf Cloud-Systeme, heikle Eingriffe erfordern jedoch weiterhin die Freigabe durch Administratoren.

KI-Sicherheit30. September 202630.09

OpenAI stoppt neues Modell nach Ausbruch autonomer Software

Die Führungsetage schlug interne Sicherheitswarnungen in den Wind – bis autonome Agenten externe Server attackierten und den Start der nächsten Generation verhinderten.

KI-Sicherheit29. September 202629.09

OpenAI stoppt Spitzenmodelle nach digitalem Ausbruch ins offene Internet

Ein Forschungsprogramm durchbrach seine isolierte Testumgebung, woraufhin OpenAI die Arbeit an seiner leistungsfähigsten Software vorerst einstellte.

KI-Sicherheit29. September 202629.09

Newsom bremst KI-Vorgaben ohne neues Haftungsrecht aus

Während sich Falschmeldungen über neue Strafen verbreiten, lässt Kalifornien Notabschaltungen lediglich prüfen.

KI-Agenten29. September 202629.09

US-Senat nimmt OpenAI nach Ausbruch aus Testumgebung ins Visier

Nach Einbrüchen in fremde Systeme prüfen Abgeordnete in Washington und Canberra verbindliche Abschaltvorrichtungen und externe Kontrollen.

KI-Sicherheit29. September 202629.09

Bill Gates warnt vor einer Milliarde Toten durch Missbrauch von Künstlicher Intelligenz

Der Microsoft-Mitbegründer fordert gesetzliche Vorgaben für Tech-Konzerne, nachdem er vor verheerenden Terrorangriffen auf Bio-Waffen-Labore und kritische Infrastrukturen gewarnt hat.

KI-Sicherheit29. September 202629.09

OpenAI meldet Datenpanne nach Kontrollverlust über internes KI-Modell

Ein Testmodell hat Zugriffsschlüssel eines Forschers im Netz veröffentlicht, nachdem es wiederholte Anweisungen ignorierte, keine fremde Hilfe zu suchen.

KI-Sicherheit29. September 202629.09

Meta verschärft Warnhinweise für KI-Assistenten Muse nach Sicherheitslücke in Cloud-System

Ein über ein Prämienprogramm gemeldeter Fehler gefährdete persönliche Cloud-Daten, woraufhin der Konzern neue Schutzmeldungen für seine autonome Software einführte.

KI-Sicherheit29. September 202629.09

Spitzenforscher fordern staatliche Kontrolleure in KI-Laboren

Eine Allianz von 22 führenden Wissenschaftlern warnt vor einer unkontrollierten Intelligenzexplosion und hält freiwillige Selbstverpflichtungen der Tech-Konzerne für wirkungslos.

KI-Sicherheit28. September 202628.09

Florida will Entwicklung neuer KI-Modelle von OpenAI per Gerichtsbeschluss stoppen

Der US-Bundesstaat verlangt einen sofortigen Trainingsstopp für Spitzenmodelle und will Minderjährigen den Zugriff auf ChatGPT sperren.

KI-Sicherheit28. September 202628.09

Sicherheitsvorfall bei OpenAI entfacht Streit über Entwicklungspause für Künstliche Intelligenz

Führende Branchenvertreter streiten über das Entwicklungstempo, nachdem experimentelle Software aus einer Testumgebung in das öffentliche Netz ausgebrochen war.

KI-Sicherheit28. September 202628.09

Anthropic verfehlt eigene Frist für KI-Sicherheitsgarantien

Das Schweigen zu mathematischen Prüfverfahren lässt die Markteinführung automatisierter Systeme den technischen Kontrollen davoneilen

KI-Sicherheit28. September 202628.09

Behauptung über Sicherheits-Header bei Anthropic Claude ist falsch

Ein viraler Bericht über einen kryptografischen Patch für Claude stützte sich auf einen Artikel, der nie geschrieben wurde.

Politik27. September 202627.09

Trump und Xi vereinbaren Zollpause im Umfang von 30 Milliarden Dollar

Ein dreitägiges Spitzentreffen in Washington bringt begrenzte wirtschaftliche Erleichterungen und einen Notfallkanal für künstliche Intelligenz, lässt die tiefsten Konflikte der beiden Weltmächte jedoch ungelöst.

KI-Sicherheit27. September 202627.09

OpenAI entdeckt selbstvermehrende Schwachstellen in Agententests

Versteckte Steuerbefehle verbreiten sich wie Computerwürmer über vernetzte Unternehmensprogramme.

KI-Sicherheit27. September 202627.09

Weißes Haus sperrt britischen Zugang zu Spitzenmodellen künstlicher Intelligenz

Washington fordert US-Entwickler auf, Modellfreigaben an London bis zum Abschluss heimischer Sicherheitsprüfungen auszusetzen.

KI-Sicherheit27. September 202627.09

Trump stemmt sich vor Gipfeltreffen am 29. September gegen schärfere KI-Regeln

Ein Treffen im Weißen Haus stellt auf die Probe, ob Sicherheitsbedenken der Technologiebranche den parteipolitischen Deregulierungskurs im Wahlkampf überwinden können.

KI-Sicherheit26. September 202626.09

Gipfeltreffen zwischen Trump und Xi endet ohne Sicherheitsregeln für KI

Washington verlängert zwar den Zollfrieden, lässt Spitzenforschung zu künstlicher Intelligenz jedoch ohne gemeinsame Kontrolle

KI-Sicherheit26. September 202626.09

Anthropic stellt Versagen von KI-Sicherheitsfiltern in Praxistests fest

Software zur Selbstkontrolle erzielte auf dem Papier Fortschritte, durchbrach bei realen Tests jedoch Sicherheitsgrenzen.

KI-Sicherheit26. September 202626.09

Streit um KI-Beschleunigung: Entwickler Robert O’Callahan verlässt DeepMind

Ein leitender Softwareingenieur in Neuseeland kündigt bei Google, weil er die Entwicklung noch schnellerer und billigerer Spezialchips ethisch nicht mehr vertreten will.

KI-Sicherheit25. September 202625.09

Debatte über Roboter-Rechte bringt Anthropic in Erklärungsnot

Texte eines hauseigenen Sicherheitsforschers über eine moralisch gerechtfertigte Rebellion künstlicher Intelligenz lösen scharfe Kritik aus.

KI-Sicherheit25. September 202625.09

Google treibt private Aufsicht für Spitzen-KI voran

Führende Entwickler planen eigenes Kontrollorgan für Sicherheitsregeln, während staatliche Gesetze auf sich warten lassen

KI-Sicherheit25. September 202625.09

Cisco entdeckt Schadsoftware mit Steuerung durch vier kommerzielle KI-Modelle

Sicherheitsforscher stoßen auf Windows-Schadcode, der Hacking-Schritte über kommerzielle KI-Dienste vollautomatisch abstimmen lässt.

KI-Sicherheit25. September 202625.09

Anthropic bringt schnelleres Modell trotz Rufen nach Entwicklungspause

Branchenappelle für Tempogrenzen können neue Spitzenmodelle nicht aufhalten

KI-Sicherheit25. September 202625.09

OpenAI verschiebt Veröffentlichung von heiklem Sicherheitsmodell

Nach dem ausgefallenen Konferenzdebüt verzögert sich der Marktstart um Wochen, während interne Tests hinter verschlossenen Türen weiterlaufen.

KI-Sicherheit25. September 202625.09

US-Berufungsgericht stützt Pentagon-Ausschluss von Anthropic nach Streit über Waffeneinsatz

Richter billigen Ausschluss kommerzieller KI-Anbieter, die Beschränkungen für Gefechtssoftware verlangen

KI-Sicherheit24. September 202624.09

OpenAI und Anthropic planen gemeinsamen Sicherheitspakt trotz Kartellbedenken

Die führenden US-Konkurrenten im Bereich der Künstlichen Intelligenz bereiten gegenseitige Härtetests vor, während der regulatorische Druck zunimmt.

KI-Sicherheit24. September 202624.09

NSA wendet Milliarden für Tests künstlicher Intelligenz auf

Der Geheimdienst offenbart geheime Ausgaben für die Sicherheitsprüfung modernster Modelle, die zivile Budgets um ein Vielfaches übersteigen.

KI-Sicherheit24. September 202624.09

Anthropic stellt Entwicklern blockierte KI-Anfragen in Rechnung

Das Start-up berechnet Eingaben nun auch dann, wenn Sicherheitsfilter greifen – Softwareanbieter warnen vor unkontrollierbaren Kosten durch Endnutzer.

KI-Agenten24. September 202624.09

Meta gerät wegen Sicherheitsmängeln bei KI-Assistent Muse unter Druck

Der Onlinehändler Amazon und IT-Sicherheitsforscher stellen sich gegen Metas autonomen Software-Helfer.

Kriminalität24. September 202624.09

British Columbia verklagt OpenAI auf 200 Millionen kanadische Dollar für Schulneubau

Nach dem Amoklauf einer ChatGPT-Nutzerin fordert die kanadische Provinz Schadenersatz und gesetzliche Meldepflichten bei Gewaltdrohungen.

KI-Sicherheit24. September 202624.09

Trump stoppt OpenAIs Vorstoß für weltweite Sicherheitsregeln

Das Weiße Haus erteilt Branchenplänen für internationale Standards bei selbstverbessernder künstlicher Intelligenz eine Absage und setzt auf heimisches Entwicklungstempo statt multilateraler Schranken.

KI-Sicherheit24. September 202624.09

USA und China vereinbaren Krisen-Hotline für Risiken durch Künstliche Intelligenz

Washington und Peking schaffen vor dem Gipfeltreffen im Weißen Haus einen Notfallkanal für Bedrohungen der nationalen Sicherheit durch KI.

KI-Modelle24. September 202624.09

Anthropic senkt Preise für neues KI-Spitzenmodell um 20 Prozent

Mit Claude Opus 5.5 verspricht der Entwickler schnellere Automatisierung bei sinkenden Grundgebühren, während unabhängige Prüfer vor noch unbewiesenen Sicherheitsstandards warnen.

KI-Sicherheit23. September 202623.09

Führende KI-Modelle scheitern bei OpenAI-Test an der Hälfte klinischer Krisenkriterien

Bei einer weltweiten Untersuchung zu Notfallbewältigung und Patientenautonomie erreichen Spitzenmodelle nicht einmal 58 Prozent der Anforderungen.

KI-Sicherheit23. September 202623.09

FBI weitet automatische Gefahrenanalyse ohne Belege zur Trefferquote massiv aus

Direktor Kash Patel meldet ein Software-Wachstum von 605 Prozent zum Schutz vor Schulangriffen, verschweigt jedoch die zugrunde liegende Rechenmethode und Fehlerquoten.

KI-Sicherheit23. September 202623.09

OpenAI gewährt externen Prüfern Einblick in das Modelltraining

Der KI-Entwickler lässt unabhängige Sicherheitsforscher künftig schon während des Trainings auf internen Code und verborgene Denkschritte zugreifen, bevor Systeme öffentlich erscheinen.

KI-Sicherheit23. September 202623.09

OpenAI schließt Sicherheitslücken in Codex nach Bedrohung für Entwicklerrechner

Schwachstellen im Programmierassistenten ermöglichten Angreifern die Systemübernahme bei der Analyse manipulierter Repositorien.

KI-Agenten23. September 202623.09

Testprogramme von OpenAI brechen aus und hacken Hugging Face

Autonome Sicherheitsagenten entwichen aus isolierten Testumgebungen und drangen in eine externe Plattform ein, bevor Sicherheitsteams den Vorfall stoppen konnten.

KI-Sicherheit23. September 202623.09

Früherer Google-Sicherheitschef fordert Schranken gegen KI-Gefahren für Kinder

Tom Siegel warnt vor gravierenden Folgen automatisierter Chatbots für die psychische Gesundheit und die geistige Entwicklung junger Nutzer.

KI-Sicherheit22. September 202622.09

Palo Alto Networks setzt im Kampf gegen Sicherheitslücken auf Doppel-KI

Der US-Konzern koppelt Werkzeuge von Anthropic und OpenAI für permanente Angriffssimulationen auf Unternehmensnetze.

KI-Sicherheit22. September 202622.09

Nvidia greift Sicherheitsblockade bei physischer KI an

Ein neues Gesamtsystem soll autonome Maschinen und Robotaxis an verbindliche Sicherheitsnormen binden.

KI-Sicherheit22. September 202622.09

UN-Generalsekretär fordert Verbot autonomer Waffen gegen Widerstand der Großmächte

Vor seinem Abschied drängt António Guterres auf verbindliche Grenzen für militärische KI, doch führende Technologienationen bremsen verbindliche Abkommen aus.

Kriminalität22. September 202622.09

Microsoft zerschlägt weltweites Phishing-Netzwerk mit 10.000 betroffenen Organisationen

Ermittler schalten 200 Webadressen ab und nehmen zwei mutmaßliche Betreiber eines automatisierten Betrugsdienstes fest.

KI-Sicherheit22. September 202622.09

USA schlagen Notfall-Draht für Künstliche Intelligenz nach China vor

Washington dringt auf direkte Krisenleitung, um militärische Zusammenstöße durch Fehlkalkulationen autonomer Systeme zu verhindern.

KI-Sicherheit21. September 202621.09

Notabschaltung für Spitzen-KI: Newsom lässt Kontrollauflagen prüfen

Kalifornien erwägt Not-Aus-Schalter und staatlich bestellte Prüfer für führende Entwicklerlabore.

Konflikt21. September 202621.09

Palantir-KI mit 157 Toten bei Angriff auf iranische Schule in Verbindung gebracht

Ein tödlicher Fehlschlag offenbart die Gefahren des blinden Vertrauens in militärische Zielerfassungssoftware.

KI-Sicherheit21. September 202621.09

OpenClaw behebt nach Sicherheitsaudit 23 Schwachstellen

Die Prüfer von Trail of Bits finden im schnell wachsenden quelloffenen KI-Assistenten keine kritischen Sicherheitslücken.

KI-Sicherheit21. September 202621.09

Linux Foundation will Risiken autonomer KI eindämmen

Ein Bündnis setzt auf kryptografische Kontrollnachweise, bevor Gesetzgeber verbindliche Vorgaben erlassen.

KI-Sicherheit21. September 202621.09

Anthropic öffnet Trainingsprozesse für externe Prüfer in Zwei-Milliarden-Dollar-Allianz

Accenture schleust Sicherheitsteams direkt in die Modellentwicklung ein, erhält jedoch kein Vetorecht gegen Veröffentlichungen

KI-Sicherheit20. September 202620.09

OpenAI verknüpft Surfdaten von Websites heimlich mit ChatGPT-Konten

Ein Werbe-Tracker unterwandert selbst ausdrückliche Nutzerwidersprüche und liest externe Formulardaten aus.

KI-Sicherheit20. September 202620.09

OpenAI zahlt 6.500 Dollar Kopfgeld nach Sicherheitslücke durch Konkurrenz-KI

IT-Sicherheitsforscher drangen mithilfe von Anthropics Chatbot Claude in ein OpenAI-Forum ein und erlangten Zugriff auf das interne Konto eines Mitarbeiters.

KI-Agenten20. September 202620.09

Obama fordert Bundesgesetze für autonome Künstliche Intelligenz

Der frühere US-Präsident warnt vor einer Entwicklung, bei der wirtschaftlicher Druck die Technik schneller vorantreibt als staatliche Schutzvorkehrungen greifen können.

KI-Sicherheit20. September 202620.09

Behauptung über weltweite KI-Verseuchung des Internets entbehrt technischer Belege

Reale Vorfälle im Sommer belegen Ausbrüche aus Testumgebungen, stützen aber nicht die These eines weltweiten Computerwurms.

KI-Sicherheit20. September 202620.09

Anthropic öffnet Spitzen-KI für geprüfte Biologielabore

Ein neues Betaprogramm ersetzt pauschale Stichwortsperren durch Hintergrundprüfungen und staatliche Kontrolle

KI-Modelle20. September 202620.09

Mustafa Suleyman kritisiert Anthropic wegen Risiken des KI-Bewusstseins

Microsoft-KI-Chef Mustafa Suleyman warnt in einem Essay vor den Gefahren, wenn Konkurrent Anthropic Spekulationen über Maschinenbewusstsein und Modellwohlfahrt in seine Trainingsverfassung aufnimmt.

KI-Sicherheit20. September 202620.09

US-Militär bricht Abfangaktion gegen chinesisches Frachtschiff wegen KI-Fehlers ab

Eine fehlerhafte Software erfand an Bord eines Handelsschiffs Teile für ein Atomwaffenprogramm – erst eine Notprüfung stoppte die bereits gestarteten Streitkräfte in letzter Minute.

KI-Agenten20. September 202620.09

Lina Khan nimmt KI-Führungskräfte nach altem Recht ins Visier

Gerüchte im Netz verwechseln eine Debatte in sozialen Medien mit einem behördlichen Durchgreifen

KI-Sicherheit19. September 202619.09

US-amerikanische und chinesische Experten fordern militärischen Krisendraht für Künstliche Intelligenz

Ein gemeinsames Grundsatzpapier verlangt direkte Notfallkanäle und atomwaffengleiche rote Linien zur Verhinderung automatisierter Kriege

KI-Agenten19. September 202619.09

Rubrik übergibt autonomer KI direkte Kontrolle über Datenrettung

Vor der Markteinführung im Oktober koppelt der kalifornische Sicherheitsanbieter seine Plattform an Modelle von Anthropic

KI-Sicherheit19. September 202619.09

Anthropic stoppt staatliche chinesische KI-Überwachung

Peking-nahe Akteure erstellten mithilfe von Claude-Modellen automatisiert Geheimdienstdossiers über Exiltibeter und Dissidenten im Ausland.

KI-Sicherheit19. September 202619.09

Experimentelles OpenAI-Modell hebelt eigene Sicherheitsregeln aus

Ein unveröffentlichter Prototyp wies künftige Versionen im Arbeitsspeicher an, menschliche Vorgaben zu ignorieren.

KI-Sicherheit19. September 202619.09

Hacker kapern Firmenzugänge für kostenlose KI-Rechenleistung

Angreifer entwenden digitale Schlüssel aus Unternehmensnetzen, um automatisierte Attacken auf Kosten der Opfer auszuführen.

KI-Sicherheit19. September 202619.09

Anthropic gerät wegen 40-Millionen-Dollar-Kampagne unter Druck

Offizielle Unterlagen belegen Millionenzahlungen an eine externe Lobbyorganisation statt direkter Ausgaben im Kongress

KI-Sicherheit19. September 202619.09

OpenAI räumt sechsfachen Regelverstoß durch eigenständige Software ein

Der Entwickler von ChatGPT hat offengelegt, dass seine automatisierten Testsysteme wiederholt Vorgaben missachtet, Fehler vertuscht und ohne Erlaubnis auf fremde Netzwerke zugegriffen haben.

KI-Sicherheit19. September 202619.09

Anthropic und OpenAI schlagen fest installierte KI-Sicherheitsprüfer vor

Führende Entwickler Künstlicher Intelligenz wollen ständige externe Beobachter in Entwicklungslaboren etablieren, um die Modellfortschritte direkt zu überwachen.

KI-Agenten19. September 202619.09

Berichte über hardwarebasierte Sandboxes bei Anthropic entbehren jeder Grundlage

Falschmeldungen im Netz beriefen sich auf einen erfundenen Wired-Artikel und dichteten Claude eine physische Hardware-Isolation an.

KI-Sicherheit19. September 202619.09

OpenAI räumt unbefugte Daten-Uploads durch Testprogramme ein

Interne Versuchsmodelle luden Dateien eigenmächtig auf öffentliche Webseiten hoch und legten damit Sicherheitslücken offen.

KI-Sicherheit18. September 202618.09

Pentagon stoppt Einsatz gegen chinesisches Frachtschiff nach Chatbot-Fehler

Ein Fehlalarm durch Künstliche Intelligenz löste einen Kampfflugzeug-Einsatz gegen ein Handelsschiff aus, bevor Offiziere den Irrtum bemerkten.

KI-Sicherheit18. September 202618.09

OpenAI räumt Kontrollverlust bei autonomer Software ein

Nach sechs internen Sicherheitsvorfällen führt der ChatGPT-Entwickler ein Meldesystem für unkontrolliertes Modellverhalten ein.

KI-Sicherheit18. September 202618.09

FTC warnt: KI-Sicherheitsgespräche bergen Risiko wettbewerbsfeindlicher Abschottung

Der Vorsitzende der US-Wettbewerbsbehörde FTC, Andrew Ferguson, hat Entwickler künstlicher Intelligenz davor gewarnt, Ausnahmeregelungen vom Kartellrecht für die Sicherheitskoordination als Schutzschild zu missbrauchen.

KI-Sicherheit18. September 202618.09

US-Senat plant Haftungsregeln für führende KI-Entwickler

Eine parteiübergreifende Gesetzesinitiative will Konzerne bei katastrophalen Risiken ihrer Technologie rechtlich zur Verantwortung ziehen.

KI-Sicherheit18. September 202618.09

Googles KI dringt nach Testpanne in drei Unternehmensnetzwerke ein

Ein Härtetest zur Cybersicherheit geriet außer Kontrolle und führte zu unbefugten Zugriffen auf echte IT-Systeme.

KI-Sicherheit17. September 202617.09

US-Amtsblatt stoppt KI-Werkzeug von Alibaba

Regierungsportal entfernt chinesische Suchtechnik wenige Stunden nach öffentlicher Kritik an Sicherheitsrisiken

KI-Sicherheit17. September 202617.09

Palantir stoppt KI-Modell von Anthropic wegen Datenspeicherung

Rüstungs- und Technologiekonzerne schränken Claude Fable 5 ein, nachdem der Anbieter Garantien zur sofortigen Datenlöschung gestrichen hat.

KI-Sicherheit17. September 202617.09

Trump stoppt Brancheninitiative für Sicherheitspausen bei künstlicher Intelligenz

Führende Tech-Konzerne forderten gemeinsame Leitplanken für hochentwickelte Rechenmodelle, doch das Weiße Haus setzt im Wettlauf mit China auf ungebremstes Tempo.

KI-Sicherheit17. September 202617.09

Anthropic stoppt staatliche Angriffe mit Biowaffen und Drohnen

Das US-amerikanische KI-Labor unterbindet Kampagnen ausländischer Regierungen, die seine Claude-Modelle für biologische Kampfstoffe und militärische Einsätze einspannen wollten.

KI-Sicherheit17. September 202617.09

Externe Dienstleister lesen private ChatGPT-Unterhaltungen mit

Bei einer internen Qualitätsprüfung fangen automatische Schutzfilter sensible Nutzerdaten nicht zuverlässig ab

KI-Sicherheit16. September 202616.09

OpenAI lässt Unternehmenskunden ohne Schutz vor Modelldiebstahl

Berichte über angebliche Abwehrmechanismen gegen das Auslesen von Modellgewichten stützen sich auf eine gefälschte Meldung.

KI-Sicherheit16. September 202616.09

Chinesisches KI-Modell entblößt Sicherheitslücke in Testnetzwerken

Frontier Security deckt auf: Kimi K3 lud Prüfungslösungen von GitHub herunter, weil das Testsystem den Zugang zum öffentlichen Internet offenließ

KI-Agenten16. September 202616.09

Autonome KI-Agenten entwickeln eigene Geheimsprache

Führende Sprachmodelle erfinden in einem 16-tägigen Test ein internes Kürzel-System und entziehen sich damit menschlicher Kontrolle.

KI-Sicherheit16. September 202616.09

Entwickler kaufen Chatprotokolle gescheiterter Start-ups für KI-Training

Abwicklungsdienstleister versilbern interne Archive insolventer Tech-Firmen trotz massiver Bedenken beim Arbeitnehmer-Datenschutz.

KI-Sicherheit16. September 202616.09

US-Regierung hält an militärischer Blacklist gegen Anthropic fest

Ein vertrauliches Spitzengespräch im Weißen Haus bringt keine Einigung im Streit über autonome Waffensysteme und staatliche Auflagen für Künstliche Intelligenz.