OpenAI’s Sam Altman kondigt Pentagon-deal aan met ’technische waarborgen’

OpenAI-CEO Sam Altman maakte vrijdag laat bekend dat zijn bedrijf een overeenkomst heeft bereikt waardoor het ministerie van Defensie zijn AI-modellen magazine gebruiken in het geheime netwerk van het ministerie.

Dit volgt op een spraakmakende deadlock tussen het DoD – onder de regering-Trump ook wel bekend als het Division of Warfare – en OpenAI’s rivaal Anthropic. Het Pentagon heeft AI-bedrijven, waaronder Anthropic, ertoe aangezet hun modellen voor “alle wettige doeleinden” te gebruiken terwijl Anthropic een rode lijn probeerde te trekken rond massale binnenlandse surveillance en volledig autonome wapens.

In een lange verklaring die donderdag werd vrijgegevenDario Amodei, CEO van Anthropic, zei dat het bedrijf “nooit bezwaar heeft gemaakt tegen bepaalde militaire operaties, noch heeft geprobeerd het gebruik van onze technologie op een bepaalde manier te beperken.” ad-hoc manier”, maar hij betoogde dat “wij in een beperkt aantal gevallen geloven dat AI de democratische waarden kan ondermijnen in plaats van verdedigen.”

Ruim 60 OpenAI-medewerkers en 300 Google-medewerkers deze week een open brief ondertekend vragen hun werkgevers om het standpunt van Anthropic te steunen.

Nadat Anthropic en het Pentagon er niet in slaagden tot overeenstemming te komen, bekritiseerde president Donald Trump de “linkse gekke banen bij Anthropic” in zijn toespraak. een bericht op sociale media die ook federale agentschappen opdroeg om na een uitfaseringsperiode van zes maanden te stoppen met het gebruik van de producten van het bedrijf.

In A verschillend naMinister van Defensie Pete Hegseth beweerde dat Anthropic probeerde “het vetorecht te grijpen over de operationele beslissingen van het Amerikaanse leger.” Hegseth zei ook dat hij Anthropic aanwijst als een risico voor de toeleveringsketen: “Met onmiddellijke ingang magazine geen enkele aannemer, leverancier of associate die zaken doet met het Amerikaanse leger enige commerciële activiteit uitoefenen met Anthropic.”

Op vrijdag, Antropisch gezegd het had ‘nog geen directe communicatie ontvangen van het Ministerie van Oorlog of het Witte Huis over de standing van onze onderhandelingen’, maar stond erop dat het ‘elke aanduiding van een risico in de toeleveringsketen voor de rechter zou aanvechten’.

Verrassend genoeg, Altman beweerd in een bericht op X dat het nieuwe defensiecontract van OpenAI bescherming omvat die dezelfde problemen aanpakt die een brandpunt werden voor Anthropic.

“Twee van onze belangrijkste veiligheidsprincipes zijn het verbod op binnenlandse massale surveillance en de menselijke verantwoordelijkheid voor het gebruik van geweld, inclusief voor autonome wapensystemen”, zei Altman. “De DoW is het eens met deze principes, weerspiegelt ze in de moist en het beleid, en we nemen ze op in onze overeenkomst.”

Altman zei dat OpenAI “technische beveiligingen zal bouwen om ervoor te zorgen dat onze modellen zich gedragen zoals ze zouden moeten, wat de DoW ook wilde”, en dat het ingenieurs bij het Pentagon zal inzetten “om te helpen met onze modellen en om hun veiligheid te garanderen.”

“We vragen de DoW om dezelfde voorwaarden aan te bieden aan alle AI-bedrijven, en naar onze mening vinden we dat iedereen bereid zou moeten zijn deze te accepteren”, voegde Altman eraan toe. “We hebben onze sterke wens geuit om de zaken te zien de-escaleren, weg van juridische en overheidsacties en in de richting van redelijke overeenkomsten.”

Dat meldt Sharon Goldman van Fortune dat Altman tijdens een bijeenkomst van OpenAI tegen medewerkers van OpenAI zei dat de overheid het bedrijf zal toestaan ​​zijn eigen ‘veiligheidsstapel’ te bouwen om misbruik te voorkomen en dat ‘als het mannequin weigert een taak uit te voeren, de overheid OpenAI niet zou dwingen om het die taak te laten doen.’

De publish van Altman kwam kort voordat het nieuws bekend werd dat de Amerikaanse en Israëlische regeringen zijn begonnen met het bombarderen van Iranwaarbij Trump opriep tot de omverwerping van de Iraanse regering.