Kort na het pleidooi van Dario Amodei om de progressie van de meest geavanceerde kunstmatige intelligentiesystemen te vertragen, worden de meningsverschillen tussen de belangrijkste laboratoria steeds zichtbaarder. De leider van Anthropic pleit in het bijzonder voor een betere coördinatie tussen bedrijven, onafhankelijke evaluaties en de mogelijkheid om het ontwikkelingsritme te verminderen wanneer capaciteiten sneller toenemen dan de veiligheidsmechanismen. Hoewel Sam Altman het principe van een gematigder ontwikkelingstempo steunde, verduidelijkte hij dat het niet ging om het stoppen van AI-vooruitgang.
De verschillende visies op AI-veiligheid
Terwijl pleidooien voor gecoördineerde vertraging de industrie opsplitsten, wijst Mark Zuckerberg (Meta) daarentegen de gedachte af van een gecoördineerd tempo. De leidinggevende van Meta acht dat elk laboratorium al voldoende economische en juridische redenen heeft om zijn modellen op verantwoorde wijze te ontwikkelen. Volgens dit standpunt verliezen agents die niet voldoen aan de verwachtingen van hun gebruikers hun commerciële belang, terwijl bedrijven aansprakelijk kunnen worden gesteld voor schade veroorzaakt door hun systemen.
Zuckerberg verwijst naar Meta zelf als voorbeeld van deze benadering. Het bedrijf heeft de lancering van zijn agent Muse al maanden vertraagd om de veiligheid te versterken, zonder op een soortgelijk akkoord met concurrenten te hoeven wachten. Bovendien schakelt Meta onafhankelijke evaluatoren in verschillende domeinen, een praktijk die Zuckerberg wil zien algemeen worden. Voor hem kunnen deze maatregelen individueel genomen worden, los van het opleggen van een gemeenschappelijk tempo aan alle laboratoria.
Mistral AI betwist de nieuwe restricties
Mistral AI, het Franse bedrijf, formuleert daarentegen een ander kritisch standpunt. Het erkent de risico’s verbonden aan modellen met actieautonomie en toegang tot externe tools, en pleit voor strikte controle over die toegang. Toch betwist het het idee dat nieuwe gecoördineerde restricties noodzakelijkerwijs het juiste antwoord zijn.
In een verklaring die door verschillende Franse media werd opgepikt, stelt Mistral dat sommige gevestigde actoren mogelijk belang kunnen hebben bij het bevorderen van regelgevingskaders die moeilijk te respecteren zijn voor hun concurrenten. Het bedrijf presenteert het debat daarmee niet alleen als een veiligheidsvraagstuk, maar ook als een kwestie van concurrentievermogen en marktcontrole.
Dit standpunt vormt de kern van Mistral’s bezwaar en bewijst op zichzelf niets over de motieven achter de oproepen van OpenAI of Anthropic.
De convergentie in het debat
Het verdedigde individuele tempo van Meta wordt ondersteund door Nvidia. Jensen Huang pleit ook ervoor dat veiligheid en innovatiesnelheid geen tegenstrijdigheden zijn. Hij benadrukt dat elk bedrijf moet vertragen wanneer een specifiek product onvoldoende veilig is, in plaats van een algemene afzwakking voor de hele industrie op te leggen.
Het debat gaat zo verder dan het simpele conflict tussen versnelling en veiligheid. Anthropic en OpenAI pleiten meer voor coördinatie en gezamenlijke evaluaties, terwijl Meta kiest voor individuele verantwoording van de laboratoria. Mistral waarschuwt tevens voor het risico dat veiligheidsvereisten barrières op de markt kunnen worden.
Achter deze vraag over de ontwikkelingssnelheid ontvouwt zich een tweede debat: wie moet de regels bepalen en hoe voorkomen we dat deze regels bepaalde actoren begunstigen ten koste van anderen? Het meningsverschil tussen de laboratoria gaat nu evenzeer over de governance van kunstmatige intelligentie als over diens ontwikkelingssnelheid. Veiligheid is breed geaccepteerd als doel, maar de middelen om dit af te dwingen en de actoren die verantwoordelijk zijn voor het vaststellen van deze regels, blijven diepgaand betwist.
