DeepSeek, el model d'intel·ligència artificial (IA) desenvolupat a la Xina, ha generat una onada d'entusiasme i controvèrsia des del seu llançament. Aclamat pel seu rendiment i accessibilitat, aquest model de codi obert està desafiant gegants tecnològics com OpenAI, però també està sota un intens escrutini per preocupacions relacionades amb privadesa, censura i seguretat.
La naturalesa disruptiva i el ràpid ascens de DeepSeek han cridat latenció de governs i experts en tecnologia. Tot i que la seva capacitat per democratitzar l'accés a la IA ha estat lloada, les implicacions ètiques i polítiques del seu ús han generat un debat intens. Aquestes preocupacions se centren principalment en el maneig de dades personals, la connexió amb el govern de la Xina i el potencial per ser utilitzat com una eina d'influència global.
Què fa únic DeepSeek?
DeepSeek és un model d'IA que destaca per ser de codi obert, permetent a desenvolupadors i empreses accedir i personalitzar la tecnologia. A més, la seva cost d'entrenament és significativament inferior al dels seus competidors, com ChatGPT d'OpenAI. Aquests factors han fet que DeepSeek sigui àmpliament adoptat en entorns acadèmics i empresarials.
No obstant això, amb aquests avantatges vénen riscos considerables. La seva obertura també significa que pot ser utilitzat per a propòsits malintencionats, com ara la manipulació d'informació o la creació de desinformació. A més, diversos experts han assenyalat problemes ètics relacionats amb el seu ús i qüestionen fins a quin punt el model és independent del control estatal xinès.
Gestió de dades i privadesa sota sospita
Un dels punts més preocupants sobre DeepSeek rau en el seu emmagatzematge i ús de dades. Segons la seva política de privadesa, la informació recopilada s'emmagatzema a servidors ubicats a la Xina. Això inclou dades personals, xats d'usuaris i patrons d'ús, fet que planteja preguntes sobre com es protegeix aquesta informació i si es podria utilitzar amb finalitats governamentals.
Els experts han advertit que, sota les lleis xineses, les empreses han de compartir dades amb les autoritats si se'ls demana. Això està generant una onada d'investigacions a països com Itàlia, Irlanda i França, on les agències de protecció de dades busquen aclarir si DeepSeek compleix normatives com el Reglament General de Protecció de Dades (GDPR) de la Unió Europea. A Itàlia, l'aplicació ja es va retirar de les botigues d'aplicacions per aquestes preocupacions.
Problemes de censura i control governamental
A més de les preocupacions per privadesa, DeepSeek enfronta crítiques per incorporar mecanismes de censura que limiten les respostes en temes políticament sensibles per al govern xinès, com les protestes de Tiananmen o la sobirania de Taiwan. Segons les anàlisis d'experts, el model utilitza una doble capa de filtres per bloquejar contingut considerat inapropiat sota la perspectiva del partit governant xinès.
Tot i que aquestes mesures es podrien justificar en termes d'«alineament de valors» del model, també reforcen la percepció que DeepSeek podria ser una eina de propaganda estatal. Usuaris i desenvolupadors han trobat maneres d'evadir aquestes restriccions, cosa que ressalta la ineficiència i vulnerabilitat dels filtres actuals.
Filtracions i vulnerabilitats
Recentment, DeepSeek ha enfrontat acusacions relacionades amb una filtració de dades que va permetre l'accés no autoritzat a informació interna de la base de dades. Aquest incident ha fet malbé la seva reputació com un model fiable i segur, especialment entre desenvolupadors i empreses que buscaven alternatives més obertes i transparents als models propietaris de Silicon Valley.
A més, s'han plantejat dubtes sobre si DeepSeek ha utilitzat dades d'OpenAI sense consentiment a l'entrenament dels seus models. Aquestes acusacions, combinades amb rumors sobre l'adquisició de semiconductors avançats de NVIDIA a través de tercers, han intensificat el scrutini global sobre la companyia xinesa.
El dilema ètic de la IA de codi obert
Si bé el model de codi obert de DeepSeek té el potencial de transformar la indústria, també planteja un dilema ètic. D'una banda, democratitza l'accés a una tecnologia avançada, però de l'altra obre la porta al seu ús indegut per part d'actors malintencionats. Experts a IA han assenyalat que aquest desenvolupament destaca la necessitat urgent d'establir marcs reguladors més sòlids que supervisin l'ús i l'evolució d'aquestes eines.
Corporacions i governs han de trobar un balanç entre fomentar la innovació y protegir els drets dels usuaris. La falta de consens internacional en aquest aspecte deixa models com DeepSeek en uns llimbs ètics i legals.
A mesura que el món avança cap a un ús més generalitzat de la IA, DeepSeek es posiciona com a referent tant pel seu potencial com pels riscos associats. La tecnologia ha demostrat ser disruptiva. Però els dubtes sobre la seva seguretat, privadesa i governança continuen sent una ombra que podria limitar la seva adopció fora de la Xina. Les investigacions en curs a diversos països seran clau per definir el futur d'aquest model i el seu impacte a la indústria tecnològica global.