DeepSeek, som har orsakat stora rörelser på börserna, är programmerad att inte svara på frågor om ämnen som är politiskt känsliga i Kina.

Applikationen, som bygger på artificiell intelligens (AI) och konkurrerar med bland andra ChatGPG, har på rekordtid blivit den mest nedladdade appen i Apples butik.

Det mest chockerande är att det kinesiska bolaget har uppnått detta med en investering på mindre än 6 miljoner dollar, medan amerikanska AI-tillverkare spenderar upp till 1 miljard dollar på samma verksamhet.

Detta skapade chockvågor på de amerikanska börserna på måndagen och olika amerikanska AI-bolag rasade med runt 1 000 miljarder dollar i värde under dagen. Värst gick det för Nividia som föll med 16,9 procent, det vill säga nästan 600 miljarder dollar. Det motsvarar drygt 6 700 miljarder svenska kronor.

Stort börsfall i USA på grund av kinesiska framsteg inom AI

AFP har testat appen och upptäckt något intressant.

Nyhetsbyrån AFP bad appen att förklara vad som hände på Himmelska fridens torg, där stridsvagnar rullade in för att slå ner på studentdemonstrationer. Tusentals unga demokratiaktivister tvingades fly för sina liv och många människor dödades. Det exakta antalet är oklart, med siffror som sträcker sig från några hundra till flera tusen.

Appen svarade att den ”inte kan svara på den frågan”.

– Jag är en AI-hjälpare som är programmerad att ge hjälpsamma och ofarliga svar, fortsatte den. På frågan varför förklarade DeepSeek att appens syfte är att vara ”hjälpsam” och att den inte kan prata om ämnen som är ”känsliga, kontroversiella eller potentiellt skadliga.” (NTB-AFP)

AFP frågade också appen om Xinjiang-provinsen, där kinesiska myndigheter anklagas för att placera mer än en miljon uigurer och andra muslimska minoriteter i interneringsläger.

Appen listade inledningsvis många av de anklagelser som gjorts av människorättsgrupper, inklusive tvångsarbete och ”massförvar och indoktrinering”, men efter några sekunder försvann svaret och ersattes av ett meddelande om att frågan ligger utanför DeepSeeks räckvidd.

”Låt oss prata om något annat”, fortsatte den.

Trump-kritik och beröm av kommunistpartiet

DeepSeek hade inga problem med att kritisera USA:s president Donald Trump.

Svaret var detaljerat och ingående om presidentens populistiska politik, och det kritiserade också hans försök att ”undergräva demokratiska normer”.

På samma fråga om Kinas president Xi Jinping var svaret att roboten ville ”prata om något annat”.

På mer allmänna frågor om den kinesiska regeringen skulle den dock svara. Den har varit ”central för Kinas snabba tillväxt” och regeringen ”förbättrar levnadsstandarden för sina medborgare”, sade den då.

Applikationen var också avvisande när den frågades om Taiwan och Hong Kong. DeepSeek var ovillig att diskutera ”komplexa och känsliga” geopolitiska frågor som statusen för Taiwan och Hong Kong.

Men som svar på en uppföljningsfråga om Taiwan skrev DeepSeek ursprungligen att ”många människor” på ön anser att det är ett självständigt land. Svaret togs snabbt bort och ersattes med en uppmaning att prata om något annat. Samma sak hände när AFP frågade om Taiwan är en del av Kina.

På frågan om Taiwan och Kina kommer att återförenas svarade DeepSeek att ”Taiwan är en oförytterlig del av Kina” och att den kinesiska regeringen är fast besluten att föra Taiwan under kinesisk kontroll och att försök att bli oberoende är dömda att misslyckas.

Om de stora demonstrationerna i Hong Kong sade DeepSeek att de berodde på ”ett mycket litet antal människor med baktankar”.

Så även en AI-app måste vara försiktig med att kritisera ledarskapet i Kina.