Google gaat door met de AI-deal van het Pentagon, ondanks tegenwerking van werknemers

Google heeft naar verluidt een overeenkomst getekend waardoor het Amerikaanse ministerie van Defensie het programma magazine gebruiken AI-modellen voor geheim werk, ondanks een open transient van honderden werknemers waarin het bedrijf wordt opgeroepen zich te onthouden van militair gebruik waarvan zij zeggen dat het gevaarlijk kan worden of onmogelijk te overzien is.

De overeenkomst, Dat meldde The Information eerder dinsdagstaat het Pentagon toe de AI-tools van Google te gebruiken voor “elk wettig overheidsdoel”, inclusief gevoelige militaire toepassingen. Google sluit zich aan OpenAI en xAI, die ook soortgelijke geheime AI-overeenkomsten hebben gesloten met het Pentagon.

De gerapporteerde overeenkomst bevat bewoordingen waarin staat dat het AI-systeem van Google niet bedoeld is voor binnenlandse massasurveillance of voor autonome wapens zonder passend menselijk toezicht. Maar het zegt ook dat Google niet het recht heeft om wettige operationele beslissingen van de overheid te controleren of er een veto over uit te spreken rapporten. Google zal op verzoek van de overheid ook helpen bij het aanpassen van veiligheidsinstellingen en filters.

Een woordvoerder van Google vertelde CNET in een verklaring per e-mail dat het bedrijf zich blijft inzetten voor het standpunt dat AI niet magazine worden gebruikt voor binnenlandse massabewaking of autonome wapens zonder menselijk toezicht, en zei dat het verlenen van API-toegang tot commerciële modellen onder standaardpraktijken een “verantwoorde benadering” is om de nationale veiligheid te ondersteunen.

Het Pentagon weigerde commentaar te geven aan CNET.

De deal komt terecht midden in een interne reactie. In een open brief gericht aan CEO Sundar Pichaivroegen meer dan 600 Google-werknemers het bedrijf om “te weigeren onze AI-systemen beschikbaar te stellen voor geheime werklasten.” De werknemers schreven dat ze, omdat ze dicht bij de technologie werken, de verantwoordelijkheid hebben om de “meest onethische en gevaarlijke toepassingen ervan” onder de aandacht te brengen en te voorkomen.

“We willen dat AI de mensheid ten goede komt, en niet dat het op inhumane of uiterst schadelijke manieren wordt gebruikt”, aldus de transient. De werknemers zeiden dat hun zorgen onder meer dodelijke autonome wapens en massasurveillance omvatten, maar verder reiken dan deze voorbeelden, omdat geheim werk zou kunnen gebeuren zonder medeweten of vermogen van werknemers om dit te stoppen.

De spanning weerspiegelt een van de meest prominente interne opstanden van Google. In 2018, duizenden arbeiders protesteerden tegen Project Maveneen Pentagon-programma met AI-analyse van dronebeelden. Google heeft er later voor gekozen dat contract niet te verlengen.

De houding van het bedrijf tegenover militaire en nationale veiligheids-AI is sindsdien veranderd.

Vorig jaar verwijderde Google een eerdere formulering uit zijn AI-principes waarin stond dat het geen technologieën zou nastreven die algemene schade zouden kunnen veroorzaken, evenals wapens, bepaalde surveillancetechnologieën of systemen die algemeen aanvaarde mensenrechten en internationale rechtsbeginselen schenden.

In een Blogpost van februari met een update van de AI-principes van GoogleGoogle DeepMind CEO Demis Hassabis en senior vice-president James Manyika schreef dat “de democratieën het voortouw moeten nemen bij de ontwikkeling van AI” en dat bedrijven en overheden moeten samenwerken om AI te bouwen die “mensen beschermt, de mondiale groei bevordert en de nationale veiligheid ondersteunt.”

Voor Google-werknemers die tegen de deal zijn, is de zorg niet alleen dat AI door het leger zou kunnen worden gebruikt, maar dat geheime inzet de gebruikelijke zichtbaarheid over hoe een mannequin wordt gebruikt wegneemt.

“Ik schaam me ongelooflijk”, schreef Andreas Kirsch, een Google DeepMind-onderzoeker, in een openbaar bericht op X reageren op de gerapporteerde deal.

De open transient van Google-medewerkers eindigt met een directe oproep aan de CEO van Google: “Vandaag roepen we jou op, Sundar, om te handelen in overeenstemming met de waarden waarop dit bedrijf is gebouwd, en geheime werklasten te weigeren.”