Por Eduardo M. FAVIER DUBOIS.
I.-INTRODUCCIÓN: LA INTELIGENCIA ARTIFICIAL.
1.-LA INTELIGENCIA ARTIFICIAL Y SUS PILARES.
Puede describirse a la Inteligencia artificial como un sistema de software y hardware que pretende emular al razonamiento humano.
Los tres pilares fundamentales que impulsaron el gran progreso de la IA en los últimos años son a) los avances de los algoritmos en su capacidad de simular al cerebro humano; b) la enorme cantidad de datos disponibles (big data) y c) el aumento de la capacidad y velocidad computacional.
Se sostiene que hay tres clases de IA, la débil, o estrecha, la fuerte o general y la superinteligente.
La IA débil se refiere a sistemas enfocados o con objetivos concretos (se toma, por caso, sistemas de asistencia a la cirugía, más específico aún, a cirugías oculares, o más todavía, a cirugía de cataratas); se diseñan entonces bases de datos con las posibles ocurrencias y vicisitudes que pueden darse en estos casos y se entrena al sistema para predecir la mejor opción posible, en cuanto al curso de acción a seguir para aquella vicisitud; frente a ello el sistema puede actuar en forma autónoma, o bien puede aconsejar al médico que opera el sistema y dejar la decisión en sus manos;
Sería un caso de IA débil, que efectúa una tarea simple. Otro caso es el de la máquina “Deep Blue”, jugando ajedrez contra Kasparov pero que no puede manejar un auto. También los casos de los motores de búsqueda de Google, el software de reconocimiento de imágenes, los asistentes virtuales, los vehículos autónomos, o software como Watson, de IBM.
También la inteligencia artificial generativa (IAGen), propia del Chat GPT y de aplicaciones similares, es una IA débil a pesar de su capacidad creativa.
Por su lado, la denominada “inteligencia artificial general” (IAG) es todavía un campo de investigación teórica de la IA que busca crear software con inteligencia similar a la humana. Todavía no existe y es la que se ve en las películas y ciencias ficción. Su inteligencia sería comparable con la de un ser humano y sería capaz de resolver cualquier tipo de problema.
Tampoco se llegó a la IA superinteligente, con inteligencia que sería muy superior a la inteligencia humana y acarrearía el peligro de que esta tecnología pudiera dominar a los seres humanos.
Un autor y científico que en la actualidad alerta sobre los peligros de la inteligencia artificial en sus tres niveles: el conversacional actual y los proyectados de inteligencia general y de super inteligencia, es el israelí y profesor de la Universidad de Jerusalen, Yuval Noah Harari en su obra “Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA”.
2.-DIVERSOS MODELOS Y ALCANCES.
La IA utiliza diversos paradigmas y modelos diferentes para resolver gran cantidad de tareas.
Siguiendo a Jordi Torres, pueden señalarse cuatro paradigmas o basamentos para la elaboración de los sistemas de inteligencia artificial: “conocimiento”, “datos”, “experiencia” y “fuerza bruta”.
Lo importante es que, detrás de ellos, hay dos modelos distintos.
Uno “conexionista”, que busca que la máquina razone como un humano: son los “sistemas expertos”, basados en reglas.
El otro es el “tecnológico”, que trabaja con elementos de baja inteligencia pero los combina de forma tal que resulte un comportamiento inteligente: son los sistemas basados en datos.
Este modelo tecnológico es el que se basa en el “aprendizaje automático” o “machine learning” que tiene dos niveles, el normal y el profundo “Deep learning”, que utiliza redes neuronales.
Dentro de este aprendizaje automático las máquinas pueden aprender en forma supervisada (con datos etiquetados por humanos), por “refuerzo” (mediante interacciones de ensayo y error), o en forma “no supervisada”, sin etiquetas y utilizando enormes capacidades de cómputos.
En ese proceso nace el Chat GPT que utiliza la “IA Generativa” posibilitada por las supercomputadoras a gran escala, inter conectadas con una gran cantidad de máquinas con varios chips aceleradores cada una, lo que permiten el funcionamiento de redes neuronales más complejas.
Este sistema se basa siempre en el Deep Learning” (DL.), un sistema no supervisado por humanos, por el cuál las computadoras aprenden, reconociendo patrones, mediante el uso de muchas capas distintas de procesamiento, por lo que se las conoce como “redes neuronales artificiales” y son modelos computacionales que se inspiran en el comportamiento de las neuronas y las conexiones cerebrales.
Sin embargo tengamos siempre en cuenta que, por ahora, las máquinas no piensan. No saben lo que hacen ni lo que está pasando, no perciben al entorno. Carecen de sentido común y de capacidad de improvisación.
Tampoco pueden brindar una explicación causal de porqué se produce un determinado resultado.
II.-EL DIRECTORIO, DECISIONES Y RESPONSABILIDADES.
1.-LOS DEBERES DE LOS DIRECTORES.
En las sociedades anónimas, las decisiones empresarias son tomadas por los directores, a quienes se los somete a un régimen colegial de decisiones, a determinadas incompatibilidades, se les exige la lealtad y la diligencia de un buen hombre de negocios y están sujetos a un régimen agravado de responsabilidad frente a la sociedad, frente a los socios y frente a los terceros, en particular en el momento de la insolvencia empresaria.
Normas similares a las de la S.A. se aplican a otros tipos societarios (ver arts. 159 y 160 del código civil y comercial y arts. 59, 274 y conc. de la ley 19.550).
En base a ello podemos resumir que los deberes de los directores son:
- Cumplir con la ley, lo que les suele acarrear en caso de incumplimiento responsabilidades fiscales y laborales.
- Ser diligentes, lo que implica desarrollar sus tareas con el mayor conocimiento e idoneidad en la materia, poniendo la mayor profesionalidad, atención y esfuerzo.
- Ser leales, o sea, no anteponer sus intereses personales a los intereses de la empresa.
2.-DIVERSAS CLASES DE FUNCIONES Y DE POSIBLES DECISIONES.
En doctrina estadounidense se señalan tres clases de funciones que determinan diversos tipos de decisiones para el directorio:
i.-Codirección:
El directorio es responsable del liderazgo estratégico, del desarrollo de la estrategia corporativa junto con el equipo de altos ejecutivos y de garantizar la implementación adecuada de la estrategia estableciendo objetivos.
Los tipos de decisiones son:
(a) Decisión sobre innovación
(b) Decisión sobre colaboración
(c) Decisión sobre optimización
(d) Decisión sobre transformación
(e) Decisión sobre diversificación/concentración
(f) Decisión sobre internacionalización
ii.-Control:
El directorio es responsable de controlar al equipo de altos ejecutivos y garantizar el pleno cumplimiento de la ley, los códigos contables y las reglas legales de la empresa, particularmente con respecto a las finanzas y la gestión del riesgo empresarial.
Los tipos de decisiones son:
(a) Decisión sobre los logros objetivo
(b) Decisión sobre la reunión de normas contables
(c) Decisión sobre el cumplimiento legal
(d) Decisión sobre la comunicación ética
iii.-Gestión de recursos humanos:
El directorio también es responsable de nombrar y entrenar al equipo de alta dirección para garantizar un liderazgo efectivo, con las siguientes decisiones:
(a) Decisión sobre nombramientos ejecutivos
(b) Decisión sobre desarrollo ejecutivo
(c) Decisión sobre la remuneración ejecutiva
(d) Decisión sobre la composición de la asamblea
3.-LA “DILIGENCIA” EN LA TOMA DE DECISIONES.
El deber de diligencia se materializa, fundamentalmente, en materia de toma de decisiones.
Al respecto, la toma de decisiones en general, y en particular en una empresa, se basa en el principio de información, vale decir, que se trate de “decisiones informadas”.
Dicho principio está sujeto a ciertas reglas que la ciencia de la administración ha ido elaborando, las que requieren cumplir los siguientes pasos:
1.-Detección de la necesidad: Identificar la necesidad de tomar una decisión.
2.-Encuadre de la decisión: La determinación precisa de la cuestión a resolver y de los resultados esperados;
3.-Recopilación de información: Reunir y requerir los datos y toda la información necesaria;
4.-Selección de información: filtrar la información útil entre los datos recopilados.
5.-Identificación de opciones: La formulación de las posibles alternativas;
6.-La evaluación de las alternativas y elección de la mejor opción, o sea de aquella que resulte la más razonable conforme con las circunstancias del caso.
Como se ve, en este proceso es fundamental contar con la mayor información posible y con las opiniones de asesores y especialistas cuando es necesario.
4.-LOS ESTANDARES INTERNACIONALES EN MATERIA DE RESPONSABILIDAD POR DECISIONES.
Ahora bien, la existencia de decisiones del directorio que pudieran haber causado daños a la sociedad no necesariamente importan la responsabilidad del directorio ya que ello depende de que hubieran sido o no tomadas en la forma de “decisiones informadas”, o sea en base al proceso señalado.
Esto es lo que sostiene el principio anglosajón de la “business judment rule” cuya finalidad es proteger la discrecionalidad empresaria necesaria para fomentar la cultura de la innovación y facilitar la sana asunción y gestión de riesgos.
La misma doctrina ha sido asumida por los países de derecho continental como el nuestro.
Al respecto, la mayoría de las jurisdicciones comparadas estipulan ciertos requisitos mínimos para la recopilación de información.
Por ejemplo, en el famoso caso estadounidense Smith v. Van Gorkom, la conclusión de que los deberes de los directores habían sido incumplidos se basó únicamente en la preparación insuficiente de la decisión de la asamblea, no sobre su contenido. Se sostuvo que esta decisión «no fue el producto de un juicio comercial informado». Se formulan requisitos similares en la jurisprudencia inglesa, en la doctrina jurídica francesa y en las codificaciones italianas del derecho societario.
El estándar de diligencia, sin embargo, difiere. Aunque parece relativamente estricto en Italia, Austria y Suiza, es más generoso en la jurisprudencia inglesa (así como en el derecho corporativo estadounidense): «Su negligencia no debe ser la omisión de tomar todo el cuidado posible; debe ser mucho más reprochable que eso; debe ser, en un sentido comercial, culpable de negligencia grave».
En una línea similar, la Ley de Sociedades Anónimas Alemana (AktG) estipula que no se considerará que los directores han violado su deber de diligencia si, en el momento de tomar la decisión empresarial, tenían buenas razones para asumir que estaban actuando sobre la base de información adecuada en beneficio de la empresa. Por lo tanto, solo en casos excepcionales, aquellos en los que los directores actúan de manera irrazonable, los tribunales escudriñan la decisión en términos del esfuerzo puesto en la recopilación y procesamiento de la información.
III..-LA UTILIZACIÓN DE LA I.A. EN EMPRESAS Y DIRECTORIOS.
1.-UTILIZACIÓN EN LAS EMPRESAS.
La inteligencia artificial ofrece enormes ventajas para las empresas basadas en su capacidad para la automatización de tareas repetitivas, la realización de tareas de precisión, el aumento de la productividad y reducción de costos tanto respecto de la administración de la empresa, cuanto de su producción y relación con clientes y proveedores, como así en su capacidad para procesar enormes cantidades de datos, predecir resultados y mejorar la toma de decisiones.
Es que en el mundo actual, la IA incluye varias herramientas y técnicas como lógica simbólica, redes neuronales artificiales, sistemas, computación evolutiva, agentes inteligentes y modelos de razonamiento probabilístico.
Estas herramientas y técnicas permiten a la IA coordinar la entrega de datos, el análisis de datos, la provisión de pronósticos, el desarrollo de la consistencia de los datos, la cuantificación de la incertidumbre, la anticipación de las necesidades de datos de los usuarios, el suministro de información a los usuarios de la forma más apropiada y, por último, sugerir cursos de acción.
Una de las contribuciones más significativas de la IA, facilitada por estas técnicas, es el apoyo a la toma de decisiones humanas, especialmente en condiciones de incertidumbre, e incluso el reemplazo de dicha toma de decisiones.
Al respecto, cabe señalar que el proceso de toma de decisiones necesita una gran cantidad de datos; las decisiones más complejas requieren más datos, ordenadores, algoritmos e IA adecuadas. En resumen, la IA divide grandes volúmenes de datos en pequeños fragmentos, facilitando la toma de decisiones en condiciones inciertas.
Por lo tanto, puede afirmarse que la IA puede apoyar a las empresas en todos sus niveles jerárquicos incluyendo al directorio.
2.-MODALIDADES DE UTILIZACION DE LA I.A. EN LOS DIRECTORIOS.
Las posibilidades de que la IA se utilice en un directorio son varias.
En primer lugar, la I.A. puede funcionar sin reemplazar la decisión humana, sea como un mero asistente en tareas específicas o sea cumpliendo importantes y complejas funciones de asesoramiento y opinión.
En segundo término, la IA puede tomar decisiones autónomas como un director más.
Ello podría ocurrir de dos formas: Una es dentro de un directorio plural y en un sistema de convivencia con personas humanas, las que siempre tendrían la mayoría.
La otra posibilidad es que el director único, que la mayoría de los directores o que la totalidad de los directores sean I.A., en cuyo caso no habría decisión humana.
IV.-LA I.A. COMO ASESORA EN LOS DIRECTORIOS.
1.-EXPERIENCIAS INTERNACIONALES
En 2014, los medios informaron que Deep Knowledge Ventures, una empresa de capital con sede en Hong Kong, había nombrado un algoritmo llamado Vital (Herramienta de inversión de validación para Advancing Life Sciences) a su junta directiva. Se le dio el derecho de “votar sobre si la empresa hace una inversión en una empresa específica o no”, al igual que los demás miembros humanos de la junta. .
Vital fue nombrado por su capacidad de automatizar la diligencia debida y usar datos históricos para descubrir tendencias no evidentes para los humanos. Aprobó decisiones de inversión, como en Insilico Medicine y Pathway Pharmaceuticals.
A pesar de su historial, Vital aún no era “inteligente” en el sentido pleno. Se planeaba lanzar Vital 2.0 en 2017. Además, no se le concedió un voto igualitario ni fue reconocido legalmente como director corporativo. Solo fue tratado como miembro con estatus de observador por sus compañeros.
Aun así, ha sido ampliamente reconocido como el “primer director corporativo de inteligencia artificial del mundo”.
Otro caso está dado en los Emiratos Árabes Unidos, con la empresa “International Holding Company” (IHC), de Abu Dhabi, que dio un puesto en el directorio, sin derecho a voto, a un Observador de Inteligencia Artificial llamado “Aiden Insight”, el que ofrece en los directorios información en tiempo real para fundamentar debates y orientar la toma de decisiones.
2.-OBLIGATORIEDAD: ¿EXISTE EL DEBER DE UTILIZARLA EN LAS DECISIONES DEL DIRECTORIO?
Una vez señaladas las distintas decisiones del directorio y los modos en que la IA puede aportar en las decisiones, corresponde determinar si para el cumplimiento del deber del director de ser diligente y de tomar decisiones informadas, es obligatorio que antes de tomar una decisión consulte con dichos sistemas.
En otros términos, si los administradores están obligados a recabar la información en big data disponible en relación a la actividad que desarrolle la sociedad antes de tomar una decisión so pena de incurrir en responsabilidad en caso de perjuicios.
A ello se suma una cuestión parecida pero diferente: qué pasa si los directores, por no consultar la información del big data, se perdieron de una oportunidad de negocios disminuyendo las ganancias de la sociedad (vgr. Existencia de un posible comprador que pagaría un mejor precio).
Al respecto, y conforme la doctrina actual sobre el tema, los directores tienen la obligación de proveerse de la información “suficiente” para emitir decisión pero no de toda la información “disponible”, con lo cual no deberían responder si su búsqueda de información, aun prescindiendo de la big data, fue razonable teniendo en cuenta las circunstancias del caso y los usos y costumbres de la industria de que se trate.
En consecuencia, y en el actual estado de la evolución de la IA y conforme con doctrina mayoritaria, cabe concluír que mientras el uso de la inteligencia artificial no esté generalizado respecto a las decisiones empresariales, parece difícil establecer que los directores que no aprovechan tales dispositivos estén actuando de forma irrazonable.
Sin embargo, el progreso tecnológico avanza tan rápido que este deber no es improbable que se desarrolle en el futuro próximo. Cuanto más se extienda el uso de inteligencia artificial en las salas de directorios, más se convertirá en un estándar de comportamiento esperado de los directores. Cuando ese momento llegue, parecerá cada vez más irrazonable apartarse de ese estándar; por lo tanto, será probable que los directores que no lo adopten sean considerados en incumplimiento de su deber de diligencia.
Excepcionalmente, cuando el acceso a dicha información hubiera sido determinante para la decisión estratégica y ello fuera o debiera haber sido conocido por los administradores, la solución sería distinta y se los podría culpar por ello en caso de daños derivados de la decisión.
Por nuestra parte, compartimos la opinión doctrinaria de que no existe un deber actual de los directores de consultar a la IA antes de tomar decisiones. No obstante, consideramos que la cuestión depende de las circunstancias de cada empresa y de cada decisión, y que el futuro estaría indicando que la consulta de estas fuentes se hará día a día más necesaria dentro de los deberes de los directores.
3.-DELEGACIÓN: RESPONSABILIDAD DE LOS DIRECTORES.
Se trata del caso en el cuál el directorio delega alguna de sus tareas de control interno a un sistema de inteligencia artificial y se generan daños.
Por ejemplo, muchas de las empresas fintech han delegado funciones centrales de “conozca a su cliente” (KYC) y de prevención de lavado de activos (AML) a sistemas de inteligencia artificial capaces de validar documentos, contrastar listas de sanciones y asignar puntajes de riesgo en segundos.
Esta velocidad mejora la experiencia del usuario y recorta costos operativos, pero desplaza el control humano que tradicionalmente garantizaba la calidad del control.
Siendo ello así, en caso de incumplimientos, la empresa, como sujeto obligado por la Ley 25.246, no puede invocar la automatización como eximente de responsabilidad.
La UIF, al evaluar un eventual incumplimiento del deber de reporte, considerará si el sistema implementado era adecuado, si se mantenía actualizado, y si existían instancias de control humano verificables.
El órgano de administración de la empresa no queda exento de responsabilidad por delegar funciones en herramientas automatizadas.
El artículo 59 de la Ley de Sociedades Comerciales establece que los directores deben actuar con la diligencia de un “buen hombre de negocios”, lo que en contextos de alto riesgo tecnológico exige una vigilancia activa y fundamentada. (Ley 19.550, art. 59.)
Esta obligación se traduce en:
- Verificar que el sistema automatizado haya sido correctamente elegido,
contratado y auditado.
- Asegurarse de que existan reportes periódicos sobre su funcionamiento.
- Solicitar evaluaciones externas o auditorías técnicas independientes si el
proceso lo requiere.
- Documentar decisiones relevantes, especialmente si deciden mantener un proveedor pese a señales de advertencia.
En caso de omisión o desidia, los directores pueden ser responsabilizados
patrimonialmente por daños ocasionados a la sociedad o a terceros, y en escenarios graves, podrían enfrentarse a sanciones administrativas o civiles por incumplimiento de sus deberes fiduciarios.
Lejos de diluir la responsabilidad, la introducción de IA en procesos críticos como KYC/AML la redistribuye bajo nuevas formas. Cada actor debe asumir su parte: la empresa como ente obligado y operativamente responsable, el proveedor como desarrollador técnico bajo contrato, y los directores como garantes del cumplimiento legal y estratégico
La clave, tanto para los temas de la UIF, cuanto para otros controles delegados a la IA., se encuentra en anticipar el conflicto y establecer protocolos, auditorías y trazabilidad que permitan demostrar que la organización actuó con la prudencia y diligencia que el derecho exige.
V.-LA IA. COMO DIRECTOR SOCIETARIO.
1.-VENTAJAS E INCONVENIENTES.
Ahora bien, el nombramiento de un sistema de IA como director societario es un tema controvertido en doctrina.
Como ventajas de la IA en el directorio se sostiene que reduce los riesgos, que reduce el “costo de agencia” y que permite seleccionar mejor a los directivos.
Asimismo, se marcan como ventajas de la actuación de los ciber directores: la
posibilidad de no considerar opiniones sesgadas, no estar afectados por el “pensamiento del grupo”, no tiene limitaciones de conocimientos o razonamiento, supera las debilidades humanas y las ineficiencias por conflictos de interés.
Otras ventajas que podríamos mencionar serian: acceder y analizar vastas cantidades de datos en tiempo real permitiéndonos tomar decisiones informadas basadas en la recopilación y procesamiento de las últimas informaciones disponibles; la disponibilidad 24/7 de un motor de Inteligencia Artificial por la que las empresas pueden proceder con sus decisiones en cualquier momento, sin las limitaciones de los horarios de trabajo humanos; la habilidad de un motor de inteligencia artificial para realizar simulaciones y proyectar tendencias es una característica que nos permite especular, anticipar y preparar futuros escenarios con mayor precisión y probabilidad de ocurrencia.
Por otro lado, dentro de los desafíos con relación a la actuación de los ciber directores, se indican como problemáticas las decisiones de tipo discrecionales, que impliquen la emisión de juicios, uso de la inteligencia emocional y funciones relacionadas con la estrategia y liderazgo de los directores.
También se invocan como riesgos los “sesgos” discriminatorios, el desempleo y la incertidumbre y abusos derivados de la falta de una regulación legal.
A este panorama cabe sumar la existencia de dos situaciones particulares: la posibilidad que una IA actúe como “director independiente” y la posibilidad de que integre al mismo tiempo directorios de dos o más sociedades (“interlocking”), las que se analizan a continuación.
2.-LA I.A. COMO UN “DIRECTOR INDEPENDIENTE”.
Los directores independientes son miembros del directorio de una empresa que no tienen ninguna relación significativa con los accionistas, ni con sus ejecutivos, ni participan en las operaciones diarias.
Su presencia responde al cumplimiento de las reglas del “gobierno corporativo” (“corporate governance”) las que constituyen una iniciativa que busca elaborar un nuevo sistema societario que, a la par de favorecer la descentralización, especialización y coordinación de funciones entre los accionistas proveedores de capital y los administradores proveedores de capacidad gerencial, responda con criterios de eficiencia a la competencia del entorno y a la racionalidad de los agentes económicos.
Son cruciales para la buena gobernanza corporativa y la protección de los intereses de los accionistas, ya que aportan objetividad y una perspectiva externa al poseer profesionalidad y estar fuera de los eventuales conflictos de intereses.
Sus funciones se vinculan a la supervisión, asesoramiento, evaluación de riesgos, transparencia y rendición de cuentas.
Su presencia indica un compromiso con la transparencia y la buena gobernanza ya que aportan objetividad.
La doctrina señala como una posibilidad muy interesante: que la IA desempeñe el rol de “director independiente”, propio de las Reglas del Buen Gobierno Corporartivo, como un modo de reducir los “riesgos de agencia”.
3.-LA I.A. EN EL “INTERLOCKING” DE DIRECTORES.
El «interlocking de directores» se refiere a la situación en la que una o más personas ocupan cargos directivos en varias empresas a la vez, ya sea directamente (en empresas competidoras o no) o indirectamente a través de terceras empresas.
Esta práctica genera dudas sobre la independencia en la toma de decisiones en los directorios, así como posibles riesgos para la libre competencia, especialmente si las empresas son competidoras.
Si bien en Argentina no hay regulación específica que lo prohíba, se podrían aplicar supletoriamente ciertas normas para prevenir que se produzca un caso de interlocking, como por ejemplo, el art. 59 de la Ley General de Sociedades, el cual impone el deber de diligencia y lealtad a los directores o los arts. 3 y 8 de la Ley de Defensa de la Competencia, referidos a la prohibición de actos que configuren una distorsión o restricción a la competencia.
En caso de que dos sociedades anónimas distintas instalen el mismo algoritmo para asistir (o incluso reemplazar) a sus órganos de administración, podría configurarse una especie de “interlocking algorítmico”.
Supongamos que una misma IA asesora a empresas rivales, podría alinearlas sin necesidad de comunicación humana. La IA, al compartir información y estrategias entre ambas, puede generar resultados semejantes a los de una colusión tácita: fijación de precios similares, segmentación de mercado o coordinación en inversiones. Todo ello sin acuerdos formales ni participación consciente de los directores humanos que representan a las sociedades, provocando un daño en materia de Defensa de la Competencia.
4.-MARCO JURÍDICO.
Desde lo jurídico, en Argentina es legalmente imposible que un sistema de i.a. fuera elegido como director dada la necesidad de que el director se trate de un “sujeto de derecho”, o sea de una persona humana o jurídica.
No obstante, algún autor plantea la duda respecto de las sociedades simples donde la libertad contractual podría acoger un directorio robot manejado por inteligencia artificial, lo que nos parece asistemático.
De lege ferenda, alguna doctrina nacional propone la gestión y decisiones de directorio utilizando la “I.A.”, la designación de directores robots y el análisis de las consecuentes responsabilidades.
VI.-CONCLUSIONES.
En base a lo señalado precedentemente proponemos las siguientes conclusiones, siempre provisorias en tanto sujetas a la dialéctica del pensamiento:
1.-Deber de diligencia
En cumplimiento de dicho deber los directores deben tomar “decisiones informadas” cumpliendo con todos los pasos previstos por la ciencia de la administración bajo sanción de responsabilidad en caso de daños.
2.-Asesoramiento.
En cuanto a la IA como asesora del directorio, consideramos que puede y debe ser un elemento muy importante a ponderar a la hora de construir los pasos propios de las “decisiones informadas”, debiendo siempre confrontarse y auditarse sus predicciones con el debido “pensamiento crítico” antes de adoptar las decisiones humanas.
3.-Obligatoriedad:
En el estado actual de evolución de la IA y de los negocios, no resulta obligatorio para el directorio consultar a la IA antes de decidir.
4.-Delegación.
Las tareas de control a cargo del directorio que se deleguen a una IA comprometen su responsabilidad por daños a menos que los directores sean diligentes al momento de la contratación del sistema, supervisen en forma personal y permanente su desarrollo y sus resultados.
5.-Decisiones.
En lo que se refiere a la IA como director societario, con poder de decisión definitiva sobre lo que la sociedad comercial va a hacer o no hacer, estamos absolutamente en desacuerdo.
Ello, en primer lugar, sobre la base de las limitaciones y dificultades propias de la inteligencia artificial, entre las que cabe mencionar las siguientes:.
- Fraudes de autoría, haciendo aparecer como propios o como humanos los resultados obtenidos de la IA.
- Violación de Derechos de Autor, al utilizar datos protegidos por la propiedad intelectual
- Violación de la privacidad de los datos personales, al utilizar datos sin autorización y/o sensibles.
- Alucinaciones, brindando resultados inventados y fuera de la realidad que parecen verdaderos.
- Sesgos discriminatorios, al trasladar las discriminaciones implícitas en los datos que procesa sobre género, raza, religión, etc.
- Cajas negras que impiden la explicabilidad de los procesos, al ignorarse los criterios internos de las redes neuronales
- Hackeos y problemas de seguridad, frente a los ciber delitos
A tales inconvenientes se suman, en materia de decisiones de directores societarios, los siguientes problemas:
- Contaminación mental y pérdida del pensamiento crítico de los otros directores y accionistas como usuarios humanos al conferirle autoridad a la IA en base a la falsa creencia de que nunca se equivoca en sus predicciones.
- Pérdida de habilidades cognitivas de los otros directores y accionistas al trasladar los procesos intelectuales a la máquina y dejar de razonar.
- Falta de percepción por la IA sobre el entorno, los intereses de los stake holders, el sentido común y el propósito humano en las decisiones y acciones societarias.
6.-Directores robots y/o IA.
Por los fundamentos referidos, nos oponemos enfáticamente a la admisibilidad legal de directores robots y/o directores IA, cualesquiera fuera su función y mientras tengan poder decisorio sobre la empresa.
Es que en materia de IA, resulta fundamental aplicar el “principio de no delegación” de las decisiones que rige en materias éticas, legales y de impacto humano, acuñado por la doctrina.
Dicho principio, en el caso de decisiones de directorio, encuentra aplicación al estar en juego cuestiones vinculadas a una empresa y a su relación con los “stake holders”: trabajadores, clientes, consumidores, proveedores, acreedores, accionistas, comunidad circundante, medio ambiente, reguladores, fisco, etc.
Bs. As, 7-7-25