Anthropic-topman schuift ‘woke globalisten’ naar voren als AI-waakhond
De Amerikaanse krant New York Post haalt hard uit naar de organisatie die Anthropic-topman Dario Amodei naar voren schuift voor onafhankelijk AI-toezicht. De krant omschrijft betrokkenen rond de genoemde onderzoeksorganisatie METR als 'woke globalisten' en wijst op hun banden met de beweging Effective Altruism. Die beweging is omstreden geraakt door haar nauwe banden met invloedrijke figuren uit Silicon Valley, onder wie de veroordeelde cryptobaas Sam Bankman-Fried, die jarenlang een prominente financier en aanhanger was. Critici plaatsen daarnaast vraagtekens bij de politieke en ideologische invloed van de beweging. Amodei wil onderzoekers zoals die van METR vergaande toegang geven tot grote AI-bedrijven.
Amodei presenteerde het idee in zijn essay We Must Pace the Frontier. Hij pleit voor 'ingebedde externe beoordelaars' die binnen grote AI-bedrijven toegang krijgen die vergelijkbaar is met die van werknemers. METR wordt daarbij door hem expliciet genoemd als voorbeeld. Volgens de New York Post roept juist die keuze vragen op over de onafhankelijkheid en ideologische achtergrond van het beoogde toezicht.
New York Post spreekt van 'woke globalisten'
De krant schrijft dat METR zijn wortels heeft binnen Effective Altruism. Die beweging had in Silicon Valley verschillende prominente aanhangers. De New York Post schrijft over METR: 'De toekomstige John Connors bij METR beweren volledig onafhankelijk te zijn, maar de groep voert zijn wortels rechtstreeks terug naar belangrijke figuren binnen Effective Altruism, waarvan de aanhangers in Silicon Valley ooit ook de in ongenade gevallen cryptobaas Sam Bankman-Fried omvatten, een van de grootste vroege investeerders in Anthropic.'
De auteur omschrijft het voorgestelde toezicht daarnaast als 'een groep globalisten die geloven in open grenzen, genderneutrale voornaamwoorden en "Effective Altruism" promoten'. METR zelf erkende tegenover de krant dat er belangrijke banden zijn met Effective Altruism, maar benadrukte dat medewerkers uiteenlopende ideologische opvattingen hebben.
Banden tussen METR en Anthropic
METR werd in augustus 2022 opgericht door AI-onderzoeker Beth Barnes en is gevestigd in Berkeley in Californië. De organisatie kwam voort uit het aan Effective Altruism gelieerde Alignment Research Center, dat wordt geleid door AI-onderzoeker Paul Christiano. Christiano werkte eerder samen met Amodei bij OpenAI en was een van de eerste vijf trustees van Anthropic's Long-Term Benefit Trust.
Ook Ajeya Cotra werkt bij METR. Zij is de vrouw van Christiano en wordt door de New York Post omschreven als een prominente organisator binnen de Effective Altruism-gemeenschap. Een medewerker van METR vertelde de krant dat personeel mogelijke belangenconflicten moet melden, waaronder aandelenbezit in bedrijven die zij moeten onderzoeken.
De voorgestelde rol voor METR kan volgens de New York Post bovendien op weerstand stuiten binnen de regering-Trump. De verhouding tussen de regering en Anthropic was het afgelopen jaar gespannen. Tegelijk heeft de regering zich sceptisch getoond over zogenoemde AI-'doomers', die waarschuwen dat kunstmatige intelligentie mogelijk een catastrofe kan veroorzaken.
