Ética de la IA: Por qué es importante, ahora, trabajar en una IA ética

¡Descubre las principales noticias y eventos del fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La ética en la inteligencia artificial es una de las principales preocupaciones de inversores y analistas, especialmente desde la introducción de ChatGPT de OpenAI, que se convirtió en la aplicación de más rápido crecimiento.

La ética es necesaria si queremos que la inteligencia artificial no se vuelva peligrosa y se utilice de manera adecuada, también en lo que respecta a la industria fintech, ya que podría ser particularmente peligroso usar IA no entrenada correctamente en finanzas.

Por qué la ética en la IA acapara titulares

La ética en la inteligencia artificial aparece en los titulares tanto por razones positivas como negativas.

Mientras Microsoft recientemente redujo su departamento de IA y Sociedad – dejando solo 7 personas durante una de las oleadas de despidos que involucraron a la compañía, muchos analistas y organizaciones intentan reflexionar sobre el tema y entender por qué la ética importa.

Esto también incluye organizaciones internacionales y políticas, algo que quizás pueda ayudar a los usuarios cotidianos – quizás aún demasiado inconscientes del avance de la inteligencia artificial – a tener la certeza de que la IA no es solo un tema empresarial.

El 23 de noviembre de 2021, la UNESCO publicó un texto, “Recomendación sobre la Ética de la Inteligencia Artificial”, que fue posteriormente adoptado por los 193 estados miembros.

Las recomendaciones comienzan diciendo: “Teniendo plenamente en cuenta que el rápido desarrollo de las tecnologías de IA desafía su implementación ética y gobernanza, así como el respeto y protección de la diversidad cultural, y tiene el potencial de alterar los estándares y valores éticos locales y regionales”.

La referencia al multiculturalismo es importante en el caso de la IA.

Como veremos en un momento, es importante considerar que no todos son capaces de gestionar y usar la IA, y si permanece como prerrogativa de profesionales tecnológicos y empresas, puede ser difícil para algunas culturas y segmentos de la población acceder a esta tecnología tan importante.

¿Tenemos IA sensible?

No la tenemos – al menos, todavía no – IA sensible.

Hasta ahora, las herramientas basadas en IA son** entrenadas por personas y datos**. Si desde cierta perspectiva esto significa que la IA aún no puede considerarse demasiado peligrosa, también implica que si las personas proporcionan datos sesgados, las respuestas de la IA serán sesgadas.

Lo mismo aplica si los datos y el entrenamiento son proporcionados solo por ciertos profesionales y en ciertos países.

Como informa MIT, la brecha de género en STEM (ciencia, tecnología, ingeniería y matemáticas) sigue siendo extremadamente significativa, y las mujeres con un empleo acorde a sus estudios en uno de estos campos solo representan el 28%.

Un informe publicado por IDC (International Data Corporation), la Guía de Inversiones en IA a nivel mundial, nos dice que las inversiones en IA deberían alcanzar $154 mil millones en 2023. Pero, ¿dónde se concentran estas inversiones?

Según InvestGlass, los países donde se concentran las inversiones son Estados Unidos y China. También Japón, Canadá y Corea del Sur están aumentando sus inversiones y estrategias relacionadas con la IA. La Unión Europea no es la región más avanzada en cuanto a inteligencia artificial, aunque algunos países como Alemania y Francia están desarrollando un entorno interesante para la IA.

Todos estos datos muestran que no todos están involucrados en esta revolución, y esto – por supuesto – puede ser perjudicial para un desarrollo valioso y ético de la IA.

Si la IA permanece demasiado concentrada en ciertos campos y países, los datos que produzca serán necesariamente sesgados.

Si el multiculturalismo aún no se aborda adecuadamente, los inversores ya buscan una tecnología que sea socialmente responsable y ética.

¿Qué piensan los inversores sobre la IA?

En los últimos años, una mayor conciencia sobre la responsabilidad social también ha llevado a los inversores a preferir negocios que no sean dañinos para las sociedades.

En el caso de la inteligencia artificial, no solo es difícil crear marcos globales destinados a regular la tecnología, sino que también es difícil para los inversores entender completamente qué es realmente ético en términos de IA.

La IA es relativamente nueva, y darle un contexto correcto se vuelve aún más difícil por el hecho de que cambia constantemente.

Por eso, los inversores están usando diferentes métodos para evaluar los posibles desarrollos futuros de un negocio de IA, así como su ética a medida que pasa el tiempo y se realizan cambios.

Como informa TechCrunch, parece que a los inversores les podría resultar más útil evaluar las características y cualidades del propietario del proyecto, para entender mejor cómo podría reaccionar a nuevos marcos y cómo quieren gestionar un proyecto de IA a pesar de los cambios constantes.

Por lo tanto, incluso hablando de IA, los humanos todavía tienen la última palabra – y cuanto más éticas sean las personas que usan la IA, más ética será la IA en el futuro.

Pensamientos finales

La ética en la IA no es un tema fácil, y no es sencillo evaluar cómo puede ser ética la IA.

La IA no es sensible, no tiene alma – independientemente de cómo se pueda definir un alma.

A pesar de esto, es fundamental trabajar en la ética de la IA ahora mismo, para evitar tantos peligros como sea posible en el futuro.

Si quieres saber más sobre noticias, eventos y perspectivas del fintech, ¡suscríbete al boletín de FinTech Weekly!