En els últims mesos m'he assegut amb bastants negocis que ja havien contractat "alguna cosa d'IA". Un chatbot al web. Una automatització que els va muntar un freelance que van veure en un vídeo. Un "agent" que enriqueix els seus leads. I gairebé sempre, quan faig la mateixa pregunta, senzilla en aparença, es fa el silenci:
No ho saben. No per falta de capacitat: són gent competent que dirigeix negocis de veritat. No ho saben perquè els ho van vendre com una caixa negra, i el mercat els va ensenyar que entendre el que passa per dins és "cosa de tècnics". Això és exactament el que vull desmuntar aquí, perquè és fals i perquè, des de fa un any, la llei a més et demana just el contrari.
Avís de context: vaig acabar el màster d'Intel·ligència Artificial en Comunicació i Mitjans a la UCM, i fa un temps que estic ficant IA en negocis reals. No escric això des de la por ni des del "la IA és perillosa". La IA aplicada bé és de les millors coses que li pot passar a una pime. Ho escric des del contrari: la IA que no entens no és teva, és un problema que encara no ha esclatat. La IA ben aplicada pot estalviar-te hores, reduir errors i ordenar processos que avui fas a mà. L'opaca només t'estalvia entendre el que pagues.
L'AI Act ja t'obliga a entendre el que fas servir.
Comencem pel que gairebé ningú t'explica quan et ven un workflow. El Reglament Europeu d'Intel·ligència Artificial (l'AI Act, Reglament UE 2024/1689) té un article, el 4, que es diu "alfabetització en matèria d'IA". I diu una cosa molt concreta: qualsevol empresa que desplega sistemes d'IA ha de garantir que les persones que els fan servir en el seu nom tinguin un nivell suficient de coneixement sobre el que fan, els seus límits i els seus riscos.
Subratlla la paraula desplega. No parla només de qui fabrica la IA a Silicon Valley. Parla de tu, que poses un chatbot al teu web o fas servir una eina d'IA amb dades dels teus clients. En l'argot del reglament ets un "responsable del desplegament", i l'obligació és teva.
L'important: això no entra en vigor l'any vinent. Està vigent des del 2 de febrer del 2025. És a dir, ja. Mentre lleies la frase anterior, ja era exigible.
I això és només el principi del calendari. El 2 d'agost del 2026 entren les obligacions de transparència (l'article 50): entre d'altres, que el teu chatbot hagi d'avisar de forma clara que és una IA, i que cert contingut generat o manipulat per IA (en especial els deepfakes) s'hagi de poder identificar com a tal. Les sancions del reglament arriben fins als 35 milions d'euros o el 7% de la facturació mundial per a les infraccions més greus. No t'espantis amb la xifra (està pensada per a les grans), però entén la direcció: Europa ha decidit que l'opacitat en IA es paga.
El detall espanyol (la futura llei d'IA, l'AESIA com a supervisor, què has de fer en concret) el vaig desglossar en un altre article, així que aquí no em repeteixo. El tens aquí si t'interessa la part de compliment. Aquest article va d'una cosa anterior i més pràctica: com deixar de comprar caixes negres.
Cinc llocs on la teva IA fa alguna cosa que no saps.
Seré concret, que és l'únic que serveix. Aquests són cinc escenaris de màrqueting i captació reals on he vist el mateix patró: el negoci paga, la cosa "funciona", i ningú sap què passa per dins. Per a cadascun et deixo la pregunta exacta que hauries de fer a qui t'ho va vendre.
1 · El chatbot del teu web.
Poses un xat "intel·ligent" a la home. Un visitant escriu el seu nom, el seu email, de vegades el telèfon o el problema de salut pel qual pregunta. On va aquesta conversa? En la majoria de muntatges barats, el text surt del teu web, viatja a un servidor d'un proveïdor d'IA (sovint fora de la UE, o d'una empresa nord-americana tot i que la interfície sigui europea) i es processa allà. Si passa això, són dades personals dels teus clients sortint d'Europa.
El que gairebé ningú va verificar: hi ha un contracte d'encarregat del tractament signat amb aquest proveïdor? Hi ha garanties per a aquesta transferència fora de la UE (les anomenades clàusules contractuals tipus)? Es guarden les converses, on, i durant quant temps? I la sorpresa més habitual: el bot, per semblar útil, s'inventa preus, terminis o promeses que tu mai vas dir. I un compromís que el teu web dona per escrit te'l poden reclamar.
2 · La cadena d'automatització que et va muntar l'"expert".
Aquesta és la reina. Un lead omple el teu formulari i, per darrere, aquella dada salta per cinc o sis eines diferents: un Make o un n8n, un enriquidor, un CRM, un full de càlcul, una API d'IA que classifica, un email automàtic. Sobre el paper, màgia. A la pràctica, la dada personal del teu client ha passat per sis empreses i tu no saps quines, ni on són, ni si vas signar res amb elles.
Moltes d'aquestes eines són, en termes legals, encarregades (o subencarregades) del tractament de les teves dades, i la relació amb cadascuna que tracti dades pel teu compte hauria d'estar regulada per contracte. Si demà hi ha una fuita en l'eslavó número quatre d'una cadena que ni sabies que existia, el client no trucarà a l'eina. Et trucarà a tu.
3 · L'enriquiment de leads amb IA.
"Li passes un email i et retorna el nom, el càrrec, l'empresa, el telèfon i el LinkedIn." Sona potentíssim per vendre. La pregunta incòmoda és: d'on surt tota aquesta informació? Molts d'aquests serveis es nodreixen de bases de dades construïdes raspant internet sense que la persona ho sàpiga, o sense una base jurídica clara que tu puguis defensar. Estàs tractant dades de gent que no té ni idea que les tens.
No és teoria. L'autoritat de protecció de dades et pot preguntar de quina base jurídica t'agafes per tenir aquelles dades, i "me les va donar una eina d'IA" no n'és cap. El risc és teu, no de l'eina.
4 · El contingut dels teus anuncis, generat per IA.
Cada vegada més creativitats (textos, imatges, veus) surten d'una IA. Dos problemes que gairebé ningú mira. Un: a partir d'agost del 2026 hi ha obligacions de transparència per a cert contingut sintètic. Si el teu anunci fa servir una veu clonada o una imatge que imita alguna cosa real (un deepfake) sense assenyalar-ho, entres en terreny regulat. Dos, i més urgent: la IA afirma coses que no són certes amb total aplom. Un anunci que promet un resultat que no pots complir és publicitat enganyosa, i respon tu, no el model.
5 · El "comercial amb IA" que envia emails en fred.
L'últim crit: un agent que busca prospectes, escriu emails personalitzats amb IA i els envia sol. Aquí es junten tots els problemes anteriors alhora: dades aconseguides qui sap com, missatges que la IA redacta sense que ningú els llegeixi, enviament massiu que rasa (o creua) les normes de comunicacions comercials. I el detall que més em preocupa: tu no controles el que diu aquell agent en el teu nom. Parla per la teva marca, i no l'has llegit.
La prova dels 30 segons.
No cal que entenguis de xarxes neuronals. Cal alguna cosa molt més simple. Per a qualsevol tros d'IA que tinguis funcionant al teu negoci, hauries de poder respondre aquestes tres preguntes en 30 segons, sense trucar a ningú:
- Què fa, exactament? En una frase, sense "optimitza" ni "potencia". Què entra, què surt.
- Per on van les dades? Quina informació toca, en quines empreses es processa, què es guarda i quant.
- Què passa quan s'equivoca? Perquè s'equivocarà. Qui ho detecta, què es trenca, com s'arregla.
I compte, perquè la trampa és elegant: quan tot va bé, la caixa negra sembla una meravella. El problema de les caixes negres no és el dia bo. És el dia que el bot promet un descompte que no existeix, o que un client pregunta on guardes les seves dades, o que cau el servei de l'eslavó quatre i ningú sap ni que aquell eslavó hi era.
El que exigeixo jo abans de ficar IA en un client.
Perquè això no quedi en "ves amb compte", t'ensenyo la meva pròpia llista. No és res heroic, és sentit comú aplicat amb disciplina. Abans d'engegar qualsevol cosa amb IA en un negoci:
- Dibuixo el recorregut de la dada sencer, eina per eina. Si no cap en un full, és massa fràgil.
- Signo els contractes de tractament amb cada proveïdor que toca dades, i prefereixo servidors a la UE sempre que es pugui.
- Poso un humà al punt de risc. La IA prepara, una persona valida el que arriba al client o surt en el teu nom. Res de delicat es publica sol.
- Deixo registre. Si alguna cosa falla vull poder mirar el que va passar, no endevinar-ho.
- Ho explico en una frase. Si no et puc explicar què fa sense tecnicismes, és que ni jo ho tinc clar, i llavors no s'engega.
Res d'això et frena de veritat. El que et frena és l'incendi que apagues en sis mesos per haver engegat alguna cosa que ningú entenia. La IA ben muntada et dona hores i marge. La IA opaca et dona una bomba de rellotgeria amb cara d'èxit.
La conclusió, sense fum.
El mercat és ple de gent venent IA com qui ven un truc de màgia: el bo és que no entenguis com funciona. És just al revés. Al teu negoci, entendre què fa la IA per tu no és un luxe tècnic: és la condició perquè sigui teva. Ho era per sentit comú. Des del febrer del 2025, a més, és el que et demana la llei.
Així que la propera vegada que algú t'ofereixi "automatitzar amb IA" o "posar-te un agent", no preguntes quant costa. Pregunta què fa, per on van les teves dades i què passa quan falla. Si no sap respondre-t'ho clar, no t'està venent IA. T'està venent una caixa negra amb el teu nom a la factura.
Vols entendre de veritat la IA que tens (o que et volen vendre)?
Una sessió de diagnòstic de 90 minuts on repassem què fa cada peça d'IA del teu negoci, per on van les dades dels teus clients, quins punts legals convé revisar i on estàs exposat. Si alguna cosa necessita un advocat o un DPO, t'ho deixo clar. Surts amb un mapa en llenguatge humà, no amb més fum. 290€ + IVA.
Reservar diagnòstic