AI afremmen kan ook juist de concurrentie afremmen

OpenAI en Anthropic pleiten voor een lager ontwikkeltempo van AI, zodat veiligheidsmaatregelen de vooruitgang kunnen bijhouden. Axios citeert Anthropic-topman Dario Amodei:

We must slow the pace at which we improve the capabilities of AI models.

Dat klinkt als een verantwoordelijke stap. Maar vertraging kan ook de zakelijke belangen van de koplopers dienen. Dat is de kritiek van investeerder David Sacks in zijn reactie op X.

Volgens Sacks domineren de twee bedrijven de markt voor de meest geavanceerde AI en stellen ze zelf dat hun voorsprong groeit. Veiligheidsregels kunnen die positie verder versterken. Wie al vooroploopt, kan er belang bij hebben dat de rest aan strengere voorwaarden moet voldoen.

Ruimte voor afspraken tussen concurrenten

Anthropic-topman Dario Amodei vraagt in zijn essay over het vertragen van AI-ontwikkeling expliciet om een beperkte uitzondering op mededingingsregels voor bepaalde veiligheidsgesprekken tussen AI-bedrijven.

they don’t need to participate, but do need to issue a narrow waiver for certain kinds of safety conversations.

Daarmee ontstaat ruimte voor overleg tussen concurrenten over veiligheidsnormen en het tempo van AI-ontwikkeling. Sacks ziet daarin het gevaar van kartelvorming. De bedrijven die om regels vragen, kunnen zo ook invloed krijgen op de voorwaarden waaronder hun concurrenten mogen groeien.

Een beperkte uitzondering voor veiligheidsgesprekken is op zichzelf nog geen kartel. Het maakt wel relevant wie aan tafel zit en hoeveel ruimte er overblijft voor uitdagers.

Controles als drempel

Amodei wil daarnaast externe beoordelaars permanent toegang geven tot de ontwikkeling van geavanceerde AI. Anthropic zegt dit zelf te gaan invoeren en wil dat overheden andere ontwikkelaars van zulke AI dezelfde verplichting opleggen. Die beoordelaars moeten controleren of bedrijven hun veiligheidsafspraken nakomen.

Zulke controles kunnen nuttig zijn, maar brengen ook kosten en extra stappen met zich mee. Voor kapitaalkrachtige koplopers als OpenAI en Anthropic zijn die mogelijk makkelijker te dragen dan voor een kleinere uitdager. Als controles de ontwikkeling of introductie van concurrerende AI vertragen, profiteren de gevestigde bedrijven daarvan.

OpenAI en Anthropic kunnen oprecht bezorgd zijn over veiligheid én baat hebben bij hogere drempels voor concurrenten. Bij hun voorstellen telt daarom niet alleen welke risico's ze verkleinen, maar ook wiens marktpositie ze versterken.