Los científicos rusos dudan que se pueda confiar incondicionalmente en la inteligencia artificial

En el último Presidium de la Academia de Ciencias de Rusia se debatió un tema muy importante relacionado con las tecnologías de inteligencia artificial. Entonces, durante la discusión, los científicos intentaron comprender cuánto se puede confiar en la inteligencia artificial (IA) y dónde está la línea después de la cual una persona debe tomar una decisión por sí misma.

Lo crea o no Inteligencia artificial

Entonces, según el presidente de la Academia de Ciencias de Rusia A. Sergeeva, AI es una supuesta "caja negra" que incluso sus propios creadores no comprenden completamente cómo funciona. Y entonces surge una pregunta muy lógica: ¿Es posible confiar en las conclusiones de la IA si no podemos rastrear la cadena de inferencias hechas por esta "máquina"?

De hecho, de hecho, la inteligencia artificial ya está realizando una gran cantidad de operaciones mejor y más rápido que los humanos.

Y bien puede ser tentador abandonar la ciencia en principio, porque un especialista con competencia promedio puede establecer ciertas tareas y leer las respuestas de la IA.

Pero solo en el caso de una confianza completa e indiscriminada en las soluciones de inteligencia artificial, puede obtener una imagen muy distorsionada, lo que puede ser bastante costoso.

Es que una persona está demasiado inclinada a confiar en la tecnología, pero con la inteligencia artificial todo es mucho más complicado. El caso es que la humanidad todavía no puede explicar completamente cómo funciona el cerebro humano.

Y de la misma manera, no se comprende cómo funciona la IA, que se construye por analogía con el cerebro humano. De hecho, las redes neuronales se basan en una ecuación bastante simple de una neurona.

Pero solo en el caso de que, por ejemplo, 600 mil millones de tales componentes estén involucrados en el trabajo a la vez, nadie dirá con certeza qué conexiones se forman en la red neuronal.

Además, los científicos señalaron que a medida que se desarrollan las redes neuronales, se encuentran cada vez más desventajas. Después de todo, al principio, la IA aprende de millones de ejemplos diferentes.

Pero a menudo, incluso con una ligera desviación de los parámetros "aprendidos" durante el entrenamiento, el sistema comienza a dar resultados incorrectos.

Entonces, un ejemplo bastante sorprendente es una red neuronal creada por IBM, creada a propósito para necesidades médicas. Entonces, resultó que IBM AI realiza diagnósticos al nivel de un médico bastante promedio. Esto significa que, aunque las tecnologías de IA permiten crear sistemas inteligentes, están lejos de ser perfectos.

Y concluyendo la discusión, los científicos llegaron a la conclusión de que, dada la tendencia cada vez mayor en el desarrollo y uso de la inteligencia artificial, es simplemente necesario crear una cierta análogo de GOST, que hará posible el uso completo de la IA solo después de que el sistema haya pasado una amplia gama de comprobaciones, y los científicos estén convencidos de que la IA no funcionará errores.

Escriba en los comentarios cómo se siente personalmente sobre el uso de la IA en la vida cotidiana. Si te gustó el material, califícalo y no olvides suscribirte al canal. ¡Gracias por su atención!