Gebruik van Chineese AI-modellen in het Westen herkalibreert voor veiligheid

Een groeiend aantal startups bewerkt machtige Chineese open-weight modellen specifiek voor westerse bedrijven die bezorgd zijn over censuur en beveiliging. Het concept van machine unlearning of het verwijderen van data uit een kunstmatige intelligentiesysteem na training, was nog een academische pursuit toen Ben Luria, een Israëlische ondernemer, medeoprichter van zijn startup werd. Toen de eerste open-weight large language model van DeepSeek werd gelanceerd, zag Luria direct het commerciële potentieel om het te realigneren naar westerse waarden. Modellen van DeepSeek, Moonshot, Z.AI, Alibaba, en Tencent hebben gebruikers overtuigd met lagere kosten, sterke capaciteiten en opties voor aanpassing.

Velen vrezen echter dat de modellen te gealigneerd zijn met de Chineese Communistische Partij. “We maken het model niet anti-Chinees,” zegt Ben Luria, medeoprichter van Hirundo. “We brengen het op niveau op het gebied van veiligheid en de standaard van mainstream westerse AI.” Luria’s team bewerk de weights van open modellen om ze te harden tegen cyberaanvallen, hun eerlijkheid te verhogen, en hun gevaarlijke kennis van bijvoorbeeld bio wapens te verminderen. Een analyse van CrowdStrike van DeepSeek’s R1 model laat zien dat prompts met Chinees politiek gevoelige onderwerpen tot 50% meer kans hadden om code met ernstige beveiligingsproblemen te leveren.

Hirundo’s methode en analyse van Qwen-modellen

Hirundo’s eigen analyse van Alibaba’s Qwen-modellen toonde aan dat ze geen politiek gevoelige onderwerpen in China erkennen, zoals de geweldsdrukneming van protesteren op Tiananmen Square in 1989 en Hong Kong in 2019, of het bestaan van gedwongenarbeidskampen in Xinjiang. Ze reageren ook niet op prompts over Winnie de Poeh, vermoedelijk omdat dissidenten het strip personage hebben gebruikt om naar Premier Xi Jinping te verwijzen. Hirundo’s realignment zorgt ervoor dat de modellen de „gebalanceerde perspectief” van OpenAI’s ChatGPT of Anthropic’s Claude leveren. De toptechnologie van China loopt nog slechts 3% achter op de leidersgesloten systemen van Amerikaanse frontier labs en vormt het grootste aandeel van downloads op Hugging Face.

Lazarus AI’s aanpak en de discussie over westersheid

Lazarus AI heeft Alibaba’s Qwen-modellen hergealigneerd door verplichte censuur te verwijderen. Nadat verboden onderwerpen werden geïdentificeerd uit gelekte censorship richtlijnen, werden prompts generatie en Google’s Gemini Flash gebruikt om ze aan te passen. De hergealigneerde modellen, afgezet als „open-source frontier modellen zonder propaganda,” zijn bij twaalf bedrijven in de VS gebruikt. Echter, Oriane Peter van King’s College London stelt dat het aligneren van een model aan zogenaamde westerse waarden een onmogelijke standaard is. Ze benadrukt dat modellen moeten worden aangepast aan de specifieke sociale context waarin ze opereren. Terwijl Silicon Valley’s centralisatie tot een homogeniseringseffect leidt, zien de meeste gebruikers van Chineese modellen geen reden tot bezorgdheid, zoals Graham Webster van Stanford University stelt. Voor een product dat helpt met een coffeeshop website, maakt het geen verschil.