Ética de la IA: Por qué es importante, ahora, trabajar en una IA ética

¡Descubre las principales noticias y eventos del sector fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La ética en la inteligencia artificial es una de las principales preocupaciones de inversores y analistas, especialmente desde la introducción de ChatGPT de OpenAI, que se convirtió en la aplicación de más rápido crecimiento.

La ética es necesaria si queremos que la inteligencia artificial no se vuelva peligrosa y se utilice de manera adecuada, también en lo que respecta a la industria fintech, ya que puede ser particularmente peligroso usar IA no entrenada correctamente en finanzas.

Por qué la ética en IA acapara titulares

La ética en la inteligencia artificial aparece en los titulares tanto por motivos positivos como negativos.

Mientras Microsoft recientemente redujo su departamento de IA y Sociedad, dejando solo 7 personas durante una de las oleadas de despidos que afectaron a la compañía, muchos analistas y organizaciones reflexionan sobre el tema y por qué la ética importa.

Esto también incluye organizaciones internacionales y políticas, algo que quizás pueda ayudar a los usuarios cotidianos —que aún están demasiado desconectados del avance de la inteligencia artificial— a tener la certeza de que la IA no es solo un tema empresarial.

El 23 de noviembre de 2021, UNESCO publicó un texto, “Recomendación sobre la Ética de la Inteligencia Artificial”, que fue adoptado posteriormente por los 193 Estados miembros.

Las recomendaciones comienzan diciendo: “Teniendo plenamente en cuenta que el rápido desarrollo de las tecnologías de IA desafía su implementación ética y gobernanza, así como el respeto y protección de la diversidad cultural, y tiene el potencial de alterar los estándares y valores éticos locales y regionales”.

La referencia al multiculturalismo es importante en el caso de la IA.

Como veremos en un momento, es importante considerar que no todos son capaces de gestionar y usar la IA, y si esta permanece en manos de profesionales tecnológicos y empresas, puede ser difícil para algunas culturas y segmentos de la población acceder a esta tecnología tan importante.

¿Tenemos IA con conciencia?

No, al menos, todavía no.

Hasta ahora, las herramientas basadas en IA son entrenadas por personas y datos. Desde cierto punto de vista, esto significa que la IA aún no puede considerarse demasiado peligrosa, pero también implica que si las personas proporcionan datos sesgados, las respuestas de la IA serán sesgadas.

Lo mismo sucede si los datos y el entrenamiento son proporcionados solo por ciertos profesionales y en ciertos países.

Según MIT, la brecha de género en STEM (ciencia, tecnología, ingeniería y matemáticas) sigue siendo muy significativa, y las mujeres con empleos relacionados con sus estudios en estos campos solo representan el 28%.

Un informe publicado por IDC (International Data Corporation), la Guía de Inversiones en IA a nivel mundial, indica que las inversiones en IA deberían alcanzar los 154 mil millones de dólares en 2023. Pero, ¿dónde se concentran estas inversiones?

Como informa InvestGlass, los países donde se concentran las inversiones son Estados Unidos y China. También Japón, Canadá y Corea del Sur están aumentando sus inversiones y estrategias relacionadas con la IA. La Unión Europea no es la región más avanzada en cuanto a inteligencia artificial, aunque países como Alemania y Francia están desarrollando un entorno interesante para la IA.

Todos estos datos muestran que no todos están involucrados en esta revolución, y esto, por supuesto, puede ser perjudicial para un desarrollo valioso y ético de la IA.

Si la IA permanece demasiado concentrada en ciertos campos y países, los datos que produzca serán necesariamente sesgados.

Si el multiculturalismo aún no se aborda adecuadamente, los inversores ya buscan una tecnología que sea socialmente responsable y ética.

¿Qué piensan los inversores sobre la IA?

En los últimos años, una mayor conciencia sobre la responsabilidad social ha llevado a los inversores a preferir empresas que no sean dañinas para la sociedad.

En el caso de la inteligencia artificial, no solo es difícil crear marcos regulatorios globales para regular la tecnología, sino que también es complicado para los inversores entender qué es realmente ético en términos de IA.

La IA es relativamente nueva, y enmarcarla correctamente es aún más difícil porque está en constante cambio.

Por eso, los inversores utilizan diferentes métodos para evaluar los posibles desarrollos futuros de un negocio de IA, así como su ética a medida que pasa el tiempo y se realizan cambios.

Según TechCrunch, parece que a los inversores les puede resultar más útil evaluar las características y cualidades del propietario del proyecto, para entender mejor cómo podría reaccionar ante nuevos marcos regulatorios y cómo desean gestionar un proyecto de IA a pesar de los cambios constantes.

Por lo tanto, incluso hablando de IA, los humanos aún tienen la última palabra — y cuanto más éticas sean las personas que usan la IA, más ética será la IA en el futuro.

Pensamientos finales

La ética en la IA no es un tema fácil, y no es sencillo evaluar cómo puede ser ética.

La IA no tiene conciencia, no tiene alma — independientemente de cómo se pueda definir un alma.

A pesar de esto, es fundamental trabajar en la ética de la IA ahora mismo, para evitar en la medida de lo posible muchos peligros en el futuro.

Si quieres saber más sobre noticias, eventos y conocimientos del sector fintech, ¡suscríbete al boletín de FinTech Weekly!