M
Moisés Cáceres
Guest
La Inteligencia Artificial ya dejó de ser un tema de expertos y empezó a operar en la rutina diaria: responde mensajes, sugiere contenido, ordena información y hasta perfila decisiones.
En una entrevista con Lorena Naranjo Godoy, directora de la Maestría en Derecho Digital de la UDLA, directora del Área de Derecho Digital del Estudio Jurídico Spingarn y columnista de EL COMERCIO, el foco se concentró en una idea central: la IA sirve como herramienta, pero no debe reemplazar el pensamiento humano, sobre todo cuando existen riesgos de sesgos, “alucinaciones” e impactos sobre datos personales.
“Muchas personas confunden automatización con Inteligencia Artificial. La automatización cumple reglas definidas por un programador y da respuestas cerradas.
La Inteligencia Artificial va un paso más allá, porque procesa información de forma similar al razonamiento humano y aprende con la interacción.
Hoy, donde más usamos Inteligencia Artificial sin percibirla es en los chatbots de atención al cliente. Muchas veces creemos que hablamos con una persona, pero en realidad son inteligencias artificiales entrenadas para responder, incluso para humanizar la interacción.
También pasa con cursos interactivos o tutores virtuales que se adaptan a las necesidades de cada usuario.”
“Usada como herramienta y no como sustituto del razonamiento humano, la Inteligencia Artificial mejora la velocidad y la eficiencia. Tareas que antes tomaban horas hoy pueden resolverse en minutos. Eso la vuelve casi indispensable en la producción de servicios.
El problema aparece cuando se la usa como reemplazo del pensamiento. En educación, por ejemplo, muchos estudiantes reciben un texto, un ensayo o una resolución de caso y no tienen la capacidad de analizarlo, cuestionarlo o detectar errores, sesgos o alucinaciones.
La IA puede ayudar a buscar y organizar información, pero el análisis crítico sigue siendo responsabilidad humana.”
“Ya vemos casos en los que las personas usan Inteligencia Artificial como acompañamiento emocional o incluso como sustituto de relaciones reales.
Hay situaciones extremas en las que se confunde la interacción con una IA con una relación interpersonal.
También vemos influencia en decisiones colectivas. Se han reportado casos de jóvenes que preguntan a sistemas de IA cómo votar o qué postura asumir frente a temas políticos.
Eso demuestra que la Inteligencia Artificial empieza a moldear decisiones personales y sociales, lo cual es delicado porque puede reducir la autonomía y reforzar cámaras de eco.”
“Yo hablaría más de certeza que de confianza. Muchas personas suben documentos o datos personales a Inteligencias Artificiales sin saber qué ocurre después con esa información. Cuando subes un documento, pierdes el control sobre él.
Nada es gratis. Esa información suele almacenarse en nubes públicas y puede ser reutilizada. Por eso, en sectores sensibles, como seguridad o información confidencial, existen restricciones.
La ciudadanía necesita entender qué datos comparte, con quién y con qué consecuencias.”
“Las oportunidades son enormes. En educación, por ejemplo, la Inteligencia Artificial permite una retroalimentación personalizada.
Ya no se trata de una educación homogénea para todos, sino de procesos que se adaptan al ritmo y a las necesidades de cada estudiante.
Eso puede elevar el nivel general del grupo, siempre que el docente rediseñe las formas de evaluación y evite que la tecnología se convierta en un atajo que sustituya el aprendizaje real.”
Lorena Naranjo Godoy analiza los retos, usos y ventajas de la Inteligencia Artificial. Foto: Cortesía.
“Existen dos niveles. El primero tiene que ver con el diseño de la Inteligencia Artificial, como en los vehículos autónomos, donde se programan decisiones ante escenarios de riesgo. Ahí aparecen dilemas éticos profundos, porque ninguna vida vale más que otra.
El segundo nivel es el uso humano de la Inteligencia Artificial. Cuando se toma una respuesta como verdad absoluta sin verificarla, hay una falta ética. Existen casos documentados en los que profesionales han presentado información falsa generada por IA, lo que puede derivar en negligencia grave.”
“El problema no es solo el acceso a Internet. El verdadero desafío está en quiénes pueden producir tecnología y quiénes solo la consumen.
Desarrollar Inteligencia Artificial requiere infraestructura costosa, recursos y talento especializado.
Los países que tienen esas capacidades están modelando el mundo tecnológico. Los demás corren el riesgo de quedarse únicamente como usuarios. Para reducir esa brecha, se necesita inversión sostenida en formación, derechos digitales y capacidades de diseño desde etapas tempranas.”
“Como las leyes van más lento que la tecnología, ya existen marcos y principios éticos internacionales que pueden adoptarse de forma voluntaria.
El Estado debe definir límites claros sobre qué decisiones pueden automatizarse y cuáles no.
Las empresas deben evaluar impactos y proteger datos personales. Y los usuarios deben asumir un uso responsable: no subir información sensible, no delegar su criterio y no reemplazar el pensamiento.”
“Vamos a ver cambios en la forma de trabajar, en los tiempos de producción y en la manera de ofrecer servicios. La Inteligencia Artificial se integrará cada vez más a sistemas cotidianos, desde plataformas digitales hasta procesos administrativos.
El desafío no es frenar ese avance, sino aprender a convivir con él sin perder autonomía ni capacidad crítica.”
“No se trata solo de saber usar la tecnología. Se necesita conciencia. Los jóvenes deben entender cómo integrar la Inteligencia Artificial a su proyecto de vida sin afectar sus relaciones, su salud mental o su privacidad.
Eso implica no usarla como sustituto de relaciones personales, no entregarle datos sensibles y no asumir sus respuestas como verdades absolutas.”
“No es un problema de eliminar profesiones, sino de definir límites. La administración pública puede usar Inteligencia Artificial para agilizar procesos, pero no para reemplazar decisiones humanas en temas sensibles.
Ecuador, en el corto plazo, será principalmente usuario de tecnologías desarrolladas en otros países. Por eso es clave decidir qué se automatiza y fortalecer las capacidades humanas para supervisar y decidir.”
“Cómo puedo usar la Inteligencia Artificial para potenciar mis habilidades y ser más eficiente sin reemplazar mi pensamiento. Qué datos estoy compartiendo y con qué consecuencias.
También cómo aplicar principios éticos en mi entorno y cómo verificar la información que recibo, porque no todo lo que entrega una Inteligencia Artificial es correcto o está actualizado.”
Sigue leyendo...
En una entrevista con Lorena Naranjo Godoy, directora de la Maestría en Derecho Digital de la UDLA, directora del Área de Derecho Digital del Estudio Jurídico Spingarn y columnista de EL COMERCIO, el foco se concentró en una idea central: la IA sirve como herramienta, pero no debe reemplazar el pensamiento humano, sobre todo cuando existen riesgos de sesgos, “alucinaciones” e impactos sobre datos personales.
Más noticias
- Inteligencia Artificial y Testamento del Año Viejo 2025
- La intuición estratégica en tiempos de inteligencia artificial
- La inteligencia artificial redefine la formación universitaria en Ecuador
La Inteligencia Artificial ya está presente en muchas acciones diarias, aunque no siempre la vemos. ¿En qué momentos de la vida cotidiana las personas interactúan con IA sin darse cuenta?
“Muchas personas confunden automatización con Inteligencia Artificial. La automatización cumple reglas definidas por un programador y da respuestas cerradas.
La Inteligencia Artificial va un paso más allá, porque procesa información de forma similar al razonamiento humano y aprende con la interacción.
Hoy, donde más usamos Inteligencia Artificial sin percibirla es en los chatbots de atención al cliente. Muchas veces creemos que hablamos con una persona, pero en realidad son inteligencias artificiales entrenadas para responder, incluso para humanizar la interacción.
También pasa con cursos interactivos o tutores virtuales que se adaptan a las necesidades de cada usuario.”
¿Cómo ha cambiado la forma de trabajar, estudiar o informarse desde que la IA se integró a plataformas y servicios cotidianos?
“Usada como herramienta y no como sustituto del razonamiento humano, la Inteligencia Artificial mejora la velocidad y la eficiencia. Tareas que antes tomaban horas hoy pueden resolverse en minutos. Eso la vuelve casi indispensable en la producción de servicios.
El problema aparece cuando se la usa como reemplazo del pensamiento. En educación, por ejemplo, muchos estudiantes reciben un texto, un ensayo o una resolución de caso y no tienen la capacidad de analizarlo, cuestionarlo o detectar errores, sesgos o alucinaciones.
La IA puede ayudar a buscar y organizar información, pero el análisis crítico sigue siendo responsabilidad humana.”
Desde su experiencia, ¿qué decisiones personales o sociales ya están siendo influidas por sistemas de IA?
“Ya vemos casos en los que las personas usan Inteligencia Artificial como acompañamiento emocional o incluso como sustituto de relaciones reales.
Hay situaciones extremas en las que se confunde la interacción con una IA con una relación interpersonal.
También vemos influencia en decisiones colectivas. Se han reportado casos de jóvenes que preguntan a sistemas de IA cómo votar o qué postura asumir frente a temas políticos.
Eso demuestra que la Inteligencia Artificial empieza a moldear decisiones personales y sociales, lo cual es delicado porque puede reducir la autonomía y reforzar cámaras de eco.”
- Esta información le puede interesar: Aprendizaje, Inteligencia Artificial y liderazgo con las tendencias que marcarán el 2026
Uno de los debates actuales gira en torno a la confianza. ¿Por qué es importante que la ciudadanía entienda cómo funcionan estos sistemas?
“Yo hablaría más de certeza que de confianza. Muchas personas suben documentos o datos personales a Inteligencias Artificiales sin saber qué ocurre después con esa información. Cuando subes un documento, pierdes el control sobre él.
Nada es gratis. Esa información suele almacenarse en nubes públicas y puede ser reutilizada. Por eso, en sectores sensibles, como seguridad o información confidencial, existen restricciones.
La ciudadanía necesita entender qué datos comparte, con quién y con qué consecuencias.”
¿Qué oportunidades concretas ofrece la IA para mejorar la calidad de vida en educación, salud o acceso a la información?
“Las oportunidades son enormes. En educación, por ejemplo, la Inteligencia Artificial permite una retroalimentación personalizada.
Ya no se trata de una educación homogénea para todos, sino de procesos que se adaptan al ritmo y a las necesidades de cada estudiante.
Eso puede elevar el nivel general del grupo, siempre que el docente rediseñe las formas de evaluación y evite que la tecnología se convierta en un atajo que sustituya el aprendizaje real.”
Lorena Naranjo Godoy analiza los retos, usos y ventajas de la Inteligencia Artificial. Foto: Cortesía.
Al mismo tiempo, ¿cuáles son los principales riesgos éticos de una incorporación sin regulación clara?
“Existen dos niveles. El primero tiene que ver con el diseño de la Inteligencia Artificial, como en los vehículos autónomos, donde se programan decisiones ante escenarios de riesgo. Ahí aparecen dilemas éticos profundos, porque ninguna vida vale más que otra.
El segundo nivel es el uso humano de la Inteligencia Artificial. Cuando se toma una respuesta como verdad absoluta sin verificarla, hay una falta ética. Existen casos documentados en los que profesionales han presentado información falsa generada por IA, lo que puede derivar en negligencia grave.”
En sociedades con desigualdades digitales, ¿cómo la expansión de la IA puede profundizar brechas existentes?
“El problema no es solo el acceso a Internet. El verdadero desafío está en quiénes pueden producir tecnología y quiénes solo la consumen.
Desarrollar Inteligencia Artificial requiere infraestructura costosa, recursos y talento especializado.
Los países que tienen esas capacidades están modelando el mundo tecnológico. Los demás corren el riesgo de quedarse únicamente como usuarios. Para reducir esa brecha, se necesita inversión sostenida en formación, derechos digitales y capacidades de diseño desde etapas tempranas.”
- Lea esto también: La relevancia de comprender la inteligencia artificial en Ecuador
¿Qué rol deberían asumir los Estados, las empresas tecnológicas y los usuarios?
“Como las leyes van más lento que la tecnología, ya existen marcos y principios éticos internacionales que pueden adoptarse de forma voluntaria.
El Estado debe definir límites claros sobre qué decisiones pueden automatizarse y cuáles no.
Las empresas deben evaluar impactos y proteger datos personales. Y los usuarios deben asumir un uso responsable: no subir información sensible, no delegar su criterio y no reemplazar el pensamiento.”
Pensando en el futuro inmediato, ¿qué cambios veremos en la vida cotidiana gracias a la IA?
“Vamos a ver cambios en la forma de trabajar, en los tiempos de producción y en la manera de ofrecer servicios. La Inteligencia Artificial se integrará cada vez más a sistemas cotidianos, desde plataformas digitales hasta procesos administrativos.
El desafío no es frenar ese avance, sino aprender a convivir con él sin perder autonomía ni capacidad crítica.”
¿Los jóvenes están preparados para el ‘tsunami’ que implica la IA en la vida diaria?
“No se trata solo de saber usar la tecnología. Se necesita conciencia. Los jóvenes deben entender cómo integrar la Inteligencia Artificial a su proyecto de vida sin afectar sus relaciones, su salud mental o su privacidad.
Eso implica no usarla como sustituto de relaciones personales, no entregarle datos sensibles y no asumir sus respuestas como verdades absolutas.”
- Te recomendamos esto también: Aplicaciones clave para aprovechar la inteligencia artificial
¿El Estado está preparándose para ese mismo escenario?
“No es un problema de eliminar profesiones, sino de definir límites. La administración pública puede usar Inteligencia Artificial para agilizar procesos, pero no para reemplazar decisiones humanas en temas sensibles.
Ecuador, en el corto plazo, será principalmente usuario de tecnologías desarrolladas en otros países. Por eso es clave decidir qué se automatiza y fortalecer las capacidades humanas para supervisar y decidir.”
De cara al nuevo año, ¿qué preguntas clave debería hacerse la ciudadanía sobre su relación con la IA?
“Cómo puedo usar la Inteligencia Artificial para potenciar mis habilidades y ser más eficiente sin reemplazar mi pensamiento. Qué datos estoy compartiendo y con qué consecuencias.
También cómo aplicar principios éticos en mi entorno y cómo verificar la información que recibo, porque no todo lo que entrega una Inteligencia Artificial es correcto o está actualizado.”
- Información extra: Inteligencia Artificial
Sigue leyendo...