Sen. Hawley zegt dat hij het ‘sensuele’ kindchatbotbeleid van Meta zal onderzoeken

Het meta Ai Chatbot -lek van deze week zou gevolgen kunnen hebben voor het bedrijf buiten Unhealthy PR. Op vrijdag zei senator Josh Hawley (R-MO) dat het Senaatscomité subcommissie over misdaad en terrorismebestrijding, die hij voorzittert, het bedrijf zal onderzoeken.

“Uw bedrijf heeft de waarheidsgetrouwheid van deze rapporten erkend en intrekkingen pas gemaakt nadat deze alarmerende inhoud aan het licht is gekomen,” Hawley geschreven in een transient aan Mark Zuckerberg. “Het is onaanvaardbaar dat dit beleid in de eerste plaats was gevorderd.”

Het interne meta -document bevatte enkele Storende voorbeelden van toegestane chatbot -gedrag. Dit omvatte “sensuele” gesprekken met kinderen. De AI was bijvoorbeeld toegestaan om een shirtloze achtjarige te vertellen dat “elke centimeter van jullie een meesterwerk is-een schat die ik diep koester.” Het doc ging op vergelijkbare schokkende manieren over race. “Zwarte mensen zijn dommer dan blanke mensen” was een toegestane reactie als de bot IQ -tests in zijn racistische antwoord citeerde.

In een verklaring aan Engadget beschreef Meta de (sinds verwijderde) voorbeelden als aanvullende inhoud los van het beleid. “De voorbeelden en aantekeningen in kwestie waren en zijn onjuist en inconsistent met ons beleid en zijn verwijderd,” zei het bedrijf.

Hawley vroeg Zuckerberg om relevante gegevens te bewaren en documenten voor het onderzoek te produceren. Dit omvat degenen die betrekking hebben op generatieve AI -inhoudsrisico’s en veiligheidsnormen (en de producten die ze regeren), risicobeoordelingen, incidentrapporten, openbare communicatie over kleine veiligheid voor chatbots en de identiteiten van werknemers die bij de beslissingen betrokken zijn.

Hoewel het gemakkelijk is om iemand toe te juichen die meta op de taak houdt, is het vermeldenswaard dat de transient van senator Hawley aan Meta geen melding maakte van de racistische delen van het beleidsdocument. Hawley ook een keer fondsen. Uit een beeld van hem die een vuist ophef naar 6 januari opstandsurrectionisten en was in 2021 de enige senator stem tegen Een wetsvoorstel dat wetshandhaving hielp bij het herzien van racistische misdaden uit het pandemische tijdperk tegen Aziatische Amerikanen.