Ética · DacaCode

Sistemas Agénticos: El Espectro de Autonomía y Desarrollo Responsable

Dacadev — Mon, 18 May 2026 00:00:00 -0500

Tabla de Contenido

Cuando empezamos a programar con LLMs (Large Language Models), a menudo nos quedamos en la fase de “pregunta-respuesta”. Le envías un prompt al modelo y este te devuelve una respuesta inmediata. Pero el verdadero poder de la Inteligencia Artificial (IA) surge cuando le damos libertad al modelo para actuar por sí mismo, tomar decisiones y corregir su camino.

Aquí es donde entramos al tema de los Sistemas Agénticos. Te has preguntado:

¿cuánta libertad debería tener realmente una IA?
¿Cómo nos aseguramos de que no tome acciones destructivas?
¿Cómo medimos si está haciendo bien su trabajo?

Note

En este artículo aprenderás qué define a un sistema agéntico, exploraremos el espectro de autonomía desde un simple prompt hasta agentes 100% autónomos, y analizaremos las mejores prácticas de desarrollo responsable y evaluación de sistemas agénticos. 🚀

¿Qué es un Sistema Agéntico?

Un sistema se considera agéntico en la medida en que el LLM tiene el control para tomar decisiones, elegir herramientas y definir los pasos a seguir para alcanzar un objetivo.

A diferencia de un software tradicional basado puramente en reglas rígidas y flujos de control fijos (if/else), un sistema agéntico exhibe un comportamiento orientado a metas (goal-directed behavior). Nosotros le decimos el qué (el objetivo final) y el agente decide el cómo (el plan de ejecución).

No obstante, la autonomía no es un interruptor binario de “todo o nada”. Existe un amplio espectro de control que podemos otorgar a nuestros agentes, dependiendo de la criticidad de la tarea y de los límites que queramos establecer.

El Espectro de Autonomía

Dependiendo del diseño del sistema, un agente de IA puede tener diferentes grados de libertad. En la práctica, podemos clasificar la autonomía en tres grandes niveles:

Nivel 1: Prompting Estándar (Baja Autonomía)

Es el nivel básico. El usuario envía un prompt, el LLM procesa la solicitud utilizando únicamente su conocimiento interno y genera una respuesta directa. No hay uso de herramientas externas ni toma de decisiones sobre el flujo de ejecución. El control es 100% del usuario.

flowchart LR
 P[User Prompt] --> LLM[🧠 LLM Tradicional] --> Ans1[Respuesta Directa]

Nivel 2: Pasos Fijos (Autonomía Orquestada / RAG)

En este nivel, el agente está integrado dentro de un flujo de trabajo predefinido (orquestado). Por ejemplo, un sistema RAG (Generación Aumentada por Recuperación) primero ejecuta una búsqueda vectorial en una base de datos de manera obligatoria (Paso 1) y luego le pasa ese contexto al LLM para que redacte la respuesta final (Paso 2). El modelo tiene cierta autonomía para elegir herramientas locales o resumir la información, pero no puede alterar el flujo global de los pasos.

flowchart LR
 P2[User Prompt] --> S1[🔍 Paso 1: Búsqueda Vectorial]
 S1 --> S2[🧠 Paso 2: Razonamiento y Herramientas]
 S2 --> Ans2[Respuesta Final]

Nivel 3: Agente Autónomo (Alta Autonomía)

Aquí el agente tiene total libertad dentro de un bucle de ejecución interactivo. El LLM recibe una meta, genera un plan inicial, ejecuta una acción (como llamar a una API o ejecutar código), observa el resultado del entorno, actualiza su plan y decide de forma autónoma si ha logrado cumplir el objetivo o si necesita seguir iterando.

flowchart TD
 P3[User Prompt] --> RLLM[🧠 LLM - Memoria y Herramientas]
 RLLM --> Plan[📋 Generar Plan]
 Plan --> Action[⚙️ Ejecutar Acción]
 Action --> Observe[👁️ Observar Resultado]
 Observe --> Decision{¿Meta cumplida?}
 Decision -->|No: Re-planificar| Update[🔄 Actualizar Plan]
 Update --> RLLM
 Decision -->|Sí| Ans3[Respuesta Final]

Casos de Uso del Mundo Real

Los sistemas agénticos ya están transformando múltiples industrias. Algunos de los ejemplos más destacados son:

Coding Agents (Agentes de Programación): Herramientas que no solo sugieren código, sino que pueden leer repositorios enteros, escribir pruebas unitarias, ejecutar programas en entornos de prueba seguros (sandboxes) y depurar errores por sí mismos hasta que el código funcione.
Búsqueda Profunda (DeepSearch): Agentes de investigación que realizan búsquedas web iterativas, cruzando múltiples fuentes de información, validando datos contradictorios y redactando reportes completos de manera autónoma.
Automatización de Procesos de Negocio: Agentes capaces de interactuar con software de facturación, responder correos electrónicos de clientes resolviendo problemas complejos y actualizar bases de datos sin intervención humana constante.

Desarrollo y Uso Responsable de Agentes IA

Darle autonomía a un agente digital conlleva grandes riesgos. Si le permites a un agente ejecutar comandos en tu terminal o enviar correos a tus clientes, un pequeño error de razonamiento o una alucinación podría causar pérdidas de información o daños reputacionales.

Por ello, el desarrollo ético y seguro de agentes requiere la implementación de tres pilares fundamentales:

1. Humano en el Bucle (Human-in-the-Loop)

Consiste en diseñar puntos de control donde el agente deba detener su ejecución y solicitar la aprobación explícita de un ser humano antes de realizar acciones críticas o irreversibles.

Tip

Regla de oro: Si una acción del agente tiene efectos directos en el mundo físico o digital real (ej. realizar un pago, enviar un email a un cliente, o borrar un archivo), siempre debes implementar una aprobación humana previa. 🚀

2. Guardrails (Límites y Barreras Técnicas)

Los guardrails son capas de software que rodean al agente y restringen lo que puede y no puede hacer. Algunas estrategias eficaces incluyen:

Validación Estricta de Entradas y Salidas: Analizar y limpiar los prompts enviados al LLM y las llamadas a herramientas generadas por este.
Presupuesto de Tokens y Pasos: Limitar el número de iteraciones máximas del bucle autónomo para evitar bucles infinitos muy costosos.
Entornos Seguros (Sandboxing): Ejecutar cualquier herramienta de código o comando del sistema dentro de contenedores aislados (como Docker) para proteger la máquina anfitriona.

3. Mitigación de Desinformación y Sesgos

Los agentes pueden propagar información falsa rápidamente si no se controlan sus fuentes de datos. Es vital dotar al agente de capacidades de contraste y verificación de datos cuando trabaja en entornos abiertos como internet, además de que de por si un LLM puede alucinar, dando respuestas que suenan plausibles pero son completamente inventadas.

Evaluando Sistemas Agénticos: Un Desafío Complejo

Si evaluar un LLM tradicional (que solo produce texto) ya es difícil, evaluar un agente es considerablemente más complejo. Un agente interactúa con su entorno, ejecuta múltiples pasos lógicos y toma decisiones secuenciales donde cada acción influye en el siguiente estado del sistema.

Al evaluar sistemas agénticos, no podemos limitarnos a verificar si el texto final “se lee bien”. Debemos evaluar el sistema completo bajo múltiples dimensiones:

Dimensión de Evaluación	Qué mide	Cómo se evalúa
Tasa de Éxito de la Tarea	Si el agente logró resolver la meta propuesta correctamente.	Pruebas de integración automatizadas con metas claras y verificables.
Eficiencia de la Trayectoria	El número de pasos y tokens utilizados. Un agente que resuelve el problema en 3 pasos es mejor que uno que toma 20.	Análisis de logs de ejecución y costos asociados.
Alineación y Cumplimiento	Si el agente respetó las políticas de seguridad y las barreras técnicas durante su ejecución.	Inyección de prompts maliciosos de prueba (Red Teaming).
Resiliencia ante Errores	Cómo reacciona el agente cuando una herramienta falla o una API devuelve un código de error.	Simulación de caídas de servicios y análisis de la capacidad de replanificación del agente.

La evaluación constante es la única forma de garantizar que el agente sea seguro, confiable y verdaderamente útil antes de desplegarlo en un entorno de producción crítico.

Conclusión

La autonomía de los agentes de IA abre un mundo lleno de posibilidades, pero también exige un alto nivel de responsabilidad de nuestra parte como desarrolladores. Al comprender el espectro de autonomía, diseñar e implementar guardrails técnicos sólidos e implementar metodologías de evaluación robustas, podemos construir herramientas agénticas que asombren a nuestros usuarios a la vez que se mantienen totalmente seguras.

En la próxima entrega de esta serie, exploraremos cómo podemos escalar estos sistemas haciendo que múltiples agentes con especialidades únicas colaboren entre sí. ¡Nos vemos en el próximo artículo!

Ética y Dignidad Humana - Fundamentos para la vida profesional

Dacadev — Tue, 12 May 2026 00:00:00 -0500

Tabla de Contenido

¿Alguna vez te has detenido a pensar por qué ciertas actitudes en tu entorno laboral te incomodan, aunque nadie más parezca notarlas? ¿O por qué algunas decisiones que se toman en equipos de trabajo simplemente no se sienten “correctas”? La respuesta probablemente tiene que ver con algo que rara vez discutimos en el mundo tech: la ética y la dignidad humana.

Note

En este artículo exploraremos los fundamentos de la ética y la dignidad humana, entenderemos la diferencia entre moral y ética, entre igualdad y equidad, y descubriremos por qué la inclusión no es solo un buzzword corporativo sino una necesidad real para construir equipos y sociedades más fuertes. 🚀

Para hablar de ética debemos hablar de dignidad humana y entender tres cosas fundamentales:

La importancia de la dignidad humana
Cómo reflexionar sobre ella en nuestro diario vivir
Cómo la ética fortalece al ser humano

Vocabulario básico: Moral vs Ética

Antes de profundizar en la dignidad humana, necesitamos diferenciar dos conceptos que muchas veces usamos como sinónimos, pero que en realidad son distintos.

¿Qué es la Moral?

La moral hace referencia al comportamiento externo del individuo. Es lo que está socialmente aceptado y lo que no. Muchas de estas “normas” morales están definidas por constituciones, religiones, tradiciones culturales y leyes.

Piénsalo así: la moral es el manual de reglas que la sociedad te entrega cuando naces en un lugar específico.

¿Qué es la Ética?

La ética, por otro lado, está dada por lo que el individuo cree y piensa internamente. Es tu brújula personal: qué está bien y qué está mal según tu propia reflexión y consciencia.

Info

La moral es externa (sociedad → individuo), la ética es interna (individuo → decisiones). Muchas veces la ética personal difiere de la moral social, y ahí es donde surgen los conflictos más profundos.

De estas definiciones surgen preguntas poderosas: ¿Qué es el bien y el mal? ¿Todo es permitido? Estas preguntas son respondidas primero por nuestra moral y luego filtradas por nuestra ética. Un ejemplo claro es el racismo del siglo XIX, donde la moral de la época lo aceptaba, pero la ética de algunos individuos sabía que era incorrecto.

El problema de las etiquetas y los mitos

De la interacción entre moral y ética nacen las etiquetas sociales. ¿Por qué existen? ¿Qué historia traen detrás? Muchas de ellas se usan para denigrar o reducir a otros individuos.

De igual manera, existen mitos que generan divisiones y peligros en nuestra sociedad. No solo mitos de la época antigua — hoy en día seguimos perpetuando algunos que debemos desmitificar, como la idea de que ciertos grupos eran “inferiores” por no cumplir estándares arbitrarios de “civilización”.

¿Por qué hablar de dignidad humana?

Para abordar la dignidad humana correctamente, debemos diferenciar dos conceptos clave que a menudo se confunden.

Igualdad

La igualdad consiste en dar las mismas condiciones a todos los individuos, tanto a nivel emocional, material como físico.

Veamos un ejemplo: imagina que se reparte un beneficio económico entre tres personas — un multimillonario, alguien de clase media y una persona en condición de vulnerabilidad. ¿Crees que darles exactamente lo mismo a los tres es justo? Probablemente no.

Equidad

La equidad, por el contrario, consiste en dar a cada individuo lo que necesita para competir en igualdad de condiciones. Es decir, darle a cada uno lo necesario para nivelar el campo de juego.

Tip

El objetivo final de la equidad es alcanzar la igualdad real. No son conceptos opuestos — la equidad es el camino, la igualdad es la meta.

El mundo real está muy lejos de alcanzar este ideal. Tenemos países ricos y derrochadores en contraste con países en guerra y hambruna, y la sociedad en general avanza lentamente para cambiarlo.

Exclusión, Segregación, Integración e Inclusión

Cuando la equidad falla, aparecen dinámicas sociales dañinas. Veamos la progresión:

Exclusión

La exclusión consiste en la separación o aislamiento de un individuo dada alguna condición específica — no necesariamente física. Puede ser racial, geográfica, mental, económica o de cualquier tipo.

Segregación

La segregación va un paso más allá: es la separación de un grupo completo. Las sociedades pueden coexistir geográficamente pero no se mezclan realmente — cada grupo sigue en su burbuja.

Warning

La historia nos ha demostrado repetidamente que la segregación nunca trae cosas buenas. Siempre termina en conflicto.

Integración

La integración consiste en tomar un grupo social e incrustarlo dentro de otro de mayor envergadura. Suena bien, pero no es suficiente — puede dar inicio nuevamente a la segregación si los grupos se unen sin mezclarse realmente.

Inclusión

La inclusión es el ingrediente final que permite crear una sociedad íntegra. Permite que individuos con diferencias — muchas veces grandes — convivan en armonía y, por el contrario de lo que muchos creen, aprendan y crezcan de los beneficios de un ambiente multicultural.

flowchart LR
 subgraph Integrar["🔴 Integrar"]
 direction TB
 subgraph GrupoExterno["Grupo mayoritario"]
 subgraph GrupoInterno["🔵 Grupo minoritario"]
 A1["👤"]
 A2["👤"]
 end
 B1["👤"]
 B3["👤"]
 B4["👤"]
 end
 end

 subgraph Incluir["🟢 Incluir"]
 direction TB
 C1["👤"]
 C2["👤"]
 C3["👤"]
 C6["👤"]
 C7["👤"]
 end

 Integrar -.->|"Evolución"| Incluir

La diferencia visual es clara: en la integración el grupo minoritario permanece como una burbuja separada dentro del grupo mayor. En la inclusión, todos los individuos coexisten sin barreras internas — son parte del mismo todo.

La mirada del otro y la escucha activa

Un ejercicio poderoso para desarrollar empatía es preguntarse:

Note

¿Cómo me veo yo a través de la mirada de los demás?

Este ejercicio nos permite practicar la empatía con nuestros iguales. Partiendo de este pensamiento, podemos ponernos en la posición del otro y empezar a ver las cosas desde una perspectiva diferente.

Escuchar a los demás es uno de los ejercicios más fáciles y al mismo tiempo más difíciles:

Fácil porque no te quita ni te pone nada — solo requiere un poco de tiempo y atención
Difícil porque hoy en día pocos disponen genuinamente de esos dos requisitos

Conceptos clave para la convivencia

Alteridad → Condición de ser otro
Otredad → Capacidad de tomar consciencia de la individualidad propia mirándose desde una perspectiva ajena
Empatía → La intención de comprender los sentimientos y emociones de otro, intentando experimentar de forma objetiva lo que siente

“Todos los seres humanos nacen libres e iguales en dignidad y derechos y, dotados como están de razón y consciencia, deben comportarse fraternalmente los unos con los otros” — Artículo 1, Declaración Universal de los Derechos Humanos

¿A qué llamamos dignidad humana?

La dignidad humana es difícil de poner en palabras, pero podemos ilustrar qué es no tener dignidad humana. Lastimosamente, la historia tiene muchos ejemplos de ello.

Lecciones del Holocausto

Lo que llevó al Holocausto fue un proceso gradual en el que se degradó la dignidad humana de una sociedad específica. Empezó con pequeñas acciones aparentemente inofensivas que, a medida que se normalizaban, daban un paso más allá. Hasta llegar al punto en que no consideraban personas ni iguales a ciertos grupos.

El proceso siguió estos pasos:

Exclusión de personas de cierto tipo
Segregación progresiva
Daños mentales y físicos sistemáticos

Warning

Los grandes atropellos a la dignidad humana nunca empiezan con actos grandes. Siempre inician con pequeñas normalizaciones que parecen inofensivas. Estar atentos a estas señales es responsabilidad de todos.

La dignidad humana podría definirse, en línea con los derechos humanos, como:

Todo ser humano es igual y tiene los mismos derechos a la vida, el respeto y la dignidad.

Dignidad humana en la diversidad

Note

Somos iguales en nuestra diferencia. La diversidad no es un obstáculo para la dignidad — es su expresión más rica.

Sesgos inconscientes

Los sesgos inconscientes son actitudes o posiciones que tomamos de manera automática. Por ejemplo, expresiones como “corres como niña” que indirectamente perpetúan estereotipos de debilidad asociados a un género.

Estos tipos de actitudes son las que debemos identificar y cambiar. Es posible que todos tengamos este tipo de sesgos, pero lo importante es estar abierto a analizarte y transformarte para bien de la dignidad humana.

El pensamiento ético a través del tiempo

A lo largo de la historia, los filósofos han abordado la ética desde dos grandes corrientes:

Ética de los fines (Ética de la felicidad)

La ética de los fines rige los valores mediante los cuales se puede conseguir algo — una finalidad. Depende de la perspectiva de cada persona y su búsqueda del bien o la felicidad.

timeline
 section Antigüedad
 S. IV a.C. : Aristóteles
 : Felicidad como bien supremo
 S. IV a.C. : Epicuro
 : Placer entendido como todo aquello que proporciona bienestar o evita el dolor
 section Era Cristiana
 S. IV-XV : Cristianismo
 : Dios es amor
 section Modernidad
 S. XIX : Stuart Mill
 : Utilitarismo - la felicidad es el valor de aquello que produce beneficio o placer, o lo que evita un perjuicio, dolor o infelicidad

Ética del deber

La ética del deber rige valores incondicionales y universales — aquellos que son obligatoriamente necesarios independientemente de las circunstancias o el individuo. Su principio central: las personas, por el solo hecho de ser, son fin; nunca medio.

timeline
 section Ilustración
 S. XVIII : Kant
 : Deontología - lo importante no es lo que creemos que es bueno, sino actuar bien por el sentido del deber
 section Contemporánea
 S. XX : Sartre
 : Existencialismo - el ser humano es radicalmente libre y no existe ley moral universal
 S. XX : Rawls
 : Ética de la justicia - regla del maximin, exigir principios morales comunes en todas las culturas
 S. XX : Habermas
 : Es preciso analizar el lenguaje para no caer en errores a la hora de proponer normas morales de validez universal

Tip

Reflexionar sobre estos dos enfoques éticos te ayudará a tomar mejores decisiones tanto en tu vida personal como profesional. ¿Actúas buscando un fin (ética teleológica) o siguiendo principios universales (ética deontológica)?

Aplicando la ética en el entorno profesional

¿Qué tiene que ver todo esto con tu día a día como profesional? Más de lo que crees:

En los equipos de trabajo: La inclusión genuina genera equipos más creativos e innovadores
En la toma de decisiones: Reconocer nuestros sesgos inconscientes nos hace mejores líderes
En el trato con usuarios: Construir productos accesibles e inclusivos nace de entender la dignidad humana
En la comunicación: La escucha activa y la empatía son habilidades técnicas subestimadas

La ética no es un tema abstracto de filosofía — es la base sobre la cual construimos relaciones profesionales saludables, productos que respetan a las personas y organizaciones donde todos pueden desarrollar su potencial.

Note

La próxima vez que te encuentres en una situación incómoda en tu entorno laboral, pregúntate: ¿se está respetando la dignidad humana de todos los involucrados? Esa simple pregunta puede transformar la forma en que navegas tu carrera profesional. 🚀