Retos de TrustTech en el mundo digital
En un mundo en el que la confianza es la nueva moneda, TrustTech está a la vanguardia de la seguridad de nuestras interacciones digitales y en el mundo real. Desde la verificación de identidades hasta la protección de datos sensibles, TrustTech está dando forma al futuro de la seguridad digital. Sin embargo, a medida que las tecnologías evolucionan y los ecosistemas digitales se hacen más complejos, también lo hace el panorama de las amenazas.
G+D Ventures invierte en TrustTech europeas startups que trabajan para resolver problemas críticos de los ecosistemas digitales actuales. Exploremos algunos de estos retos acuciantes y cómo las innovaciones TrustTech están ayudando a superarlos.
Pero antes, ¿qué es TrustTech?
TrustTech representa un conjunto de tecnologías diseñadas para asegurar y restaurar la confianza en nuestra sociedad y en los ecosistemas digitales. TrustTech, que constituye la espina dorsal de la confianza digital, lo abarca todo: desde la ciberseguridad, la gestión de identidades y accesos y las tecnologías de mejora de la privacidad hasta la RegTech, la confianza en la IA, el riesgo y la seguridad, entre otras.
La tecnología fiduciaria ha suscitado un gran interés desde 2015, con inversiones de capital riesgo superiores a 11.000 millones de euros. A partir de 2020 se ha producido un notable descenso de las operaciones de financiación inicial, con un mayor énfasis ahora en inversiones más maduras en fases tempranas. Sin embargo, las operaciones en fases iniciales no son el único foco de atención; también se ha producido un aumento significativo de las inversiones en fases posteriores y de capital riesgo. Este cambio sugiere que el ecosistema está madurando y que startups está superando sus fases iniciales de desarrollo.
Como sociedad de capital riesgo centrada exclusivamente en las tecnologías que generan confianza, en G+D Ventures hemos visto surgir diversos problemas de seguridad como consecuencia de la innovación tecnológica. A continuación resumimos dos de esos retos.
La privacidad y la seguridad de los datos como principales obstáculos para la adopción de GenAI
La GenAI está revolucionando nuestra forma de trabajar y hacer negocios. Sin embargo, su adopción conlleva riesgos significativos, especialmente en torno a la privacidad y la seguridad de los datos. Como la formación de estos modelos requiere grandes cantidades de datos, existe la posibilidad de que información sensible quede expuesta inadvertidamente o se utilice de forma indebida. Las empresas desconfían de la forma en que los sistemas GenAI recogen, procesan y almacenan los datos, sobre todo cuando tratan con proveedores externos que pueden no tener prácticas de protección de datos transparentes o sólidas. La posibilidad de que se produzcan filtraciones de datos, accesos no autorizados y pérdida de control sobre la información confidencial hace que las empresas duden a la hora de adoptar plenamente estas tecnologías.
Además, el cumplimiento de estrictas normativas de protección de datos como el GDPR es esencial, y muchas empresas temen las repercusiones legales y financieras de no cumplir estas normas. La complejidad de garantizar que los modelos de IA no violen inadvertidamente las leyes de privacidad o filtren información sensible se suma a las dudas, ya que el incumplimiento puede dar lugar a multas sustanciales y dañar la reputación de una empresa (como se vio en 2023, cuando Meta fue multada con la cifra récord de 1.300 millones de dólares por la UE).
Además, las vulnerabilidades de seguridad de los sistemas de IA, como los ataques de adversarios, suscitan preocupación sobre la integridad y fiabilidad de los resultados generados por la IA, que podrían ser manipulados por agentes malintencionados. Estos retos en torno a la privacidad y la seguridad de los datos crean obstáculos significativos para la adopción generalizada de GenAI, ya que las organizaciones sopesan los beneficios de la IA frente a los riesgos potenciales para sus activos de datos y su reputación.
Las soluciones TrustTech están ayudando a superar estos obstáculos a la adopción proporcionando herramientas y marcos que garantizan la privacidad, seguridad y conformidad de los datos. Por ejemplo, técnicas de preservación de la privacidad, como la computación confidencial, el aprendizaje federado o el cifrado totalmente homomórfico. A medida que la IA sigue evolucionando, las empresas deben dar prioridad a la privacidad y la seguridad de los datos, no solo para cumplir la normativa, sino también para generar y mantener la confianza, tanto dentro como fuera de las organizaciones.
Desinformación alimentada por GenAI
La desinformación plantea una amenaza significativa en múltiples ámbitos, afectando a los procesos democráticos, la seguridad nacional y la integridad empresarial. Las campañas de desinformación se han utilizado para manipular a la opinión pública, como se vio en las protestas de extrema derecha de 2024 en el Reino Unido. Estas campañas erosionan la confianza en las instituciones democráticas y contribuyen a aumentar la polarización política. Además, la desinformación es una potente herramienta en la guerra de la información, en la que agentes estatales y no estatales despliegan falsas narrativas para desestabilizar las sociedades, influir en los conflictos y obtener ventajas estratégicas. En crisis como las pandemias o las catástrofes naturales, la desinformación puede exacerbar el pánico entre la población, socavar la confianza en las autoridades y obstaculizar una respuesta eficaz.
Para las empresas, el reto de la desinformación es igualmente acuciante. Las empresas son cada vez más el blanco de campañas diseñadas para dañar su reputación, a menudo relacionadas con noticias falsas sobre la seguridad de los productos o la supuesta mala conducta corporativa. Estos ataques pueden provocar la pérdida de confianza de los consumidores, lo que tiene consecuencias a largo plazo para la fidelidad a la marca y la posición en el mercado. Además, la desinformación puede afectar a los mercados bursátiles, provocando volatilidad y pérdidas financieras, y exponiendo a las empresas a desafíos legales cuando intentan sortear estas crisis.
La llegada de la GenAI ha amplificado el problema de la desinformación. La GenAI puede crear contenidos falsos muy realistas y convincentes, como deepfakes y artículos de noticias falsas, que luego se utilizan en campañas de desinformación. La escala sin precedentes y la velocidad a la que GenAI puede producir y distribuir estos contenidos hacen que sea cada vez más difícil detectarlos y contrarrestarlos.
Para hacer frente a la desinformación, se están utilizando soluciones TrustTech como la inteligencia de fuentes abiertas y el análisis de redes sociales para detectar contenidos falsos. La tecnología Blockchain ofrece la posibilidad de crear registros verificables de la información, reforzando la autenticidad de los contenidos. También son importantes los esfuerzos políticos, como la Ley de Servicios Digitales de la UE, y las medidas de autorregulación del sector. Sin embargo, la defensa es el mejor ataque; la sensibilización y la educación del público, junto con la transparencia empresarial y la comunicación proactiva, son los primeros pasos esenciales para crear resistencia contra la desinformación.
...
G+D Ventures se dedica a invertir en empresas europeas en fase inicial que impulsan la innovación y salvaguardan la confianza en los ecosistemas digitales. Descubra las últimas perspectivas y tendencias en nuestro informe European TrustTech Report H1 2024. Visite nuestro sitio web para explorar el informe y obtener más información sobre G+D Ventures en https://www.gi-de.com/en/ventures.