Cidatum en el Talent Arena de Barcelona: Hacia un modelo de Inteligencia Artificial segura y alineada

Durante esta semana Rodrigo Valdelvira, Ingeniero IA y Automatización del equipo de Cidatum, ha estado presente en el Talent Arena de Barcelona, en la Fira de Montjuïc, reafirmando nuestro compromiso con la vanguardia científica y la ética tecnológica.

Entre las conferencias y talleres a los que pudo asistir, destacan la sesión inaugural de Sam Ramadori, Co-Presidente y Director Ejecutivo de LawZero  (organización cofundada por el pionero de la IA, Yoshua Bengio). En su ponencia, “Nuestro mapa de ruta hacia una IA segura”, Ramadori abordó un reto crítico: la necesidad de que los modelos de lenguaje (LLM) dejen de ser “cajas negras” impredecibles y se alineen estrictamente con los objetivos humanos y las normas fundamentales de nuestra sociedad.

A medida que las capacidades de la IA avanzan, surgen comportamientos no deseados como el engaño o la autopreservación que deben ser mitigados desde el diseño. Desde LawZero se propone la “Scientist AI”: una arquitectura transparente y fiable que prioriza la veracidad y los hechos por encima de la mera predicción de palabras.

En Cidatum, compartimos la visión de que una mayor seguridad no debe comprometer el potencial tecnológico. Seguiremos colaborando e investigando para que la innovación en IA sea sinónimo de resiliencia y confianza. Una participación que ha sido posible gracias al convenio de colaboración con el Gobierno de La Rioja