Datcon

  • Inicio
    • La Firma
  • Servicios
    • DPD/DPO
    • LOPD
    • Riesgos Laborales
    • Formacion
  • Convenios
  • Colaboradores
  • Publicaciones
    • Podcast
  • Oficinas
  • Contacto

La inteligencia artificial

3 febrero, 2020 by Monica Beloki Leave a Comment

No hace tanto tiempo que nos hubiera parecido ciencia ficción, pero los proyectos a través de inteligencia artificial han llegado para quedarse y hoy en día son una realidad.

La inteligencia artificial, según Wikipedia, fue una expresión acuñada por John McCarthy en 1956 y se podría decir que es un proceso por el que un ordenador realiza tareas como, por ejemplo: «percibir», «razonar», «aprender» y «resolver problemas».

cerebro inteligencia artificial

Hace unos meses leí que China y Estonia se encuentran a la cabeza del desarrollo de “jueces virtuales” basados en la Inteligencia Artificial (IA).

El gigante asiático presentó recientemente un robot-juez, de apariencia femenina, con expresiones faciales, voz y gestos y que incluso respira, la cual resolverá litigios simples, aunque en una primera fase funcionará de apoyo a los jueces de verdad. Las partes presentan sus demandas y sus pruebas en formato digital y con ellos el juez de inteligencia artificial, analizará la documentación y, en una primera fase, ayudará a emitir una sentencia.

El sistema está dotado de un algoritmo de custodia que garantiza que las pruebas no son alteradas y puede consultar online miles de casos de jurisprudencia que le ayuden a tomar decisiones.

Por otra parte, en Estonia, uno de los tres países bálticos, con una población de 1,3 millones de habitantes, se ha puesto a la cabeza de la investigación en lo que allí han denominado “jueces robots” de los que se espera, en esencia, lo mismo que en China.

robot inteligencia artificial

De hecho, se espera que sus jueces de inteligencia artificial comiencen a operar a finales de este año en la resolución de demandas de cantidad hasta un máximo de 7.000 euros.

A grandes rasgos, el sistema funciona de la misma forma que la de los chinos; se podrán acelerar cientos de casos retrasados y si alguna de las partes disiente con el resultado siempre se podrá presentar un recurso ante un juez humano.

Los defensores de este proyecto afirman que el uso de algoritmos conlleva mejoras de eficiencia, rapidez y seguridad ya que se eliminan los aspectos subjetivos que pueden afectar a la toma de decisiones; para ellos se elimina la posibilidad de interferencia de prejuicios o creencias.

Sin embargo, la aplicación de esta tecnología, plantea peligros éticos y limitaciones técnicas en cuanto a cómo se construye el algoritmo, pues el propio programador puede incorporarle sus propios sesgos aún de manera inconsciente. Y este es uno de los retos pendientes más importantes dada la repercusión que puede tener en la vida de las personas.

Es más, existe el peligro de la manipulación del propio algoritmo que programa el robot para conseguir un efecto determinado. Así sucedió con Tay, un robot que tardó más en aprender a mantener una conversación que en ser retirada del mercado; fue creado por Microsoft para Twitter en 2016, bajo el nombre de usuario @TayandYou, como un experimento para conocer más sobre la interacción entre las computadoras y los seres humanos

Se trataba de un programa informático diseñado para mantener en las redes sociales una conversación informal y divertida con una audiencia de entre 18 y 24 años, según explicó la compañía en su página web. Pero la gran apuesta del gigante tecnológico en la inteligencia artificial, acabó convirtiéndose en un fracaso estrepitoso ya que bastó un solo día para que los usuarios de Twitter lograran que Tay acabara convertido en un algoritmo neonazi racista y enloquecido por el sexo.

Otro caso a comentar es el algoritmo COMPAS utilizado en los juzgados estadounidenses desde 1998; se trata de un sofisticado algoritmo al que se atribuye la capacidad de predecir la probabilidad de que un delincuente vuelva a delinquir en el futuro. Este software, tiene como objetivo predecir el riesgo de que un acusado cometa un delito dentro de los dos años posteriores a su evaluación teniendo en cuenta 137 parámetros diferentes del individuo, entre los que se encuentran sus antecedentes penales.

Sin embargo, entregar el control de algo tan crucial como el futuro de la vida de una persona a las máquinas puede resultar peligroso, porque, según los resultados de un nuevo análisis el algoritmo falla tanto como una persona elegida al azar y que tenga pocos o ningún conocimiento en el ámbito criminalístico. Y es que, aunque los parámetros empleados por COMPAS no incluyen la raza de los sujetos, otros de los datos que recopila y que están correlacionados con esta característica conducen a que el algoritmo pueda caer en un sesgo racista por el que se ven perjudicados los individuos afroamericanos.

inteligencia artificial

Para terminar, quiero hablar de una coalición llamada The Public Voice, establecida en 1996 por el Centro de Información de Privacidad Electrónica (EPIC, siglas en Ingles) que promueve la participación pública en decisiones relativas al futuro de Internet, y abordó diversos temas, desde privacidad y libertad de expresión hasta protección al consumidor y gobernanza de Internet. “Directrices universales para la Inteligencia Artificial” es el nombre del trabajo publicado en su portal, en él intervinieron sociedades científicas, grupos de reflexión, ONG y organizaciones internacionales. Si bien el concepto de Inteligencia Artificial es amplio e impreciso, considera aspectos de aprendizaje automático, toma de decisiones según reglas y otras técnicas de computación. El debate actual incluye la disputa sobre si la IA es posible. Considerando este contexto, las directrices deben incorporar estándares éticos, adaptarse a normativas nacionales, acuerdos internacionales e incorporar diseño de sistemas.

Directrices universales para la IA

1. Derecho a la transparencia. Toda persona tiene derecho a conocer la base de una decisión de IA que les concierne, incluye el acceso a los factores, la lógica y las técnicas que produjeron el resultado.

2. Derecho a la determinación humana. Toda persona tiene derecho a una determinación final hecha por una persona.

3. Obligación de identificación. La institución responsable de un sistema de IA debe darse a conocer al público.

4. Obligación de imparcialidad. Las instituciones deben garantizar que los sistemas de IA no reflejen un sesgo injusto ni tomen decisiones discriminatorias inadmisibles.

5. Evaluación y obligación de rendición de cuentas. Un sistema de IA debe implementarse solo después de una evaluación adecuada de su propósito y objetivos, sus beneficios y sus riesgos. Las instituciones deben ser responsables de las decisiones tomadas por un sistema de IA.

6. Exactitud, confiabilidad y obligaciones de validez. Las instituciones deben garantizar la exactitud, confiabilidad y validez de las decisiones.

7. Obligación de calidad de los datos. Las instituciones deben establecer la procedencia de los datos y garantizar la calidad y relevancia para la entrada de datos en los algoritmos.

8. Obligación de seguridad pública. Las instituciones deben evaluar los riesgos de seguridad pública que surgen del despliegue de sistemas de IA que dirigen o controlan dispositivos físicos, e implementan controles de seguridad.

9. Obligación de ciberseguridad. Las instituciones deben proteger los sistemas de IA contra las amenazas de ciberseguridad.

10. Prohibición de perfiles secretos. Ninguna institución establecerá o mantendrá un sistema secreto de perfiles.

11. Prohibición de puntuación unitaria. Ningún gobierno nacional establecerá o mantendrá una puntuación de propósito general en sus ciudadanos o residentes.

12. Obligación de terminación. Una institución que ha establecido un sistema de IA tiene una obligación afirmativa de terminar el sistema si ya no es posible el control humano del sistema.

(Visited 41 times, 1 visits today)
Monica Beloki

Consultora Jurídica en Protección de Datos

Filed Under: Seguridad de Datos Tagged With: inteligencia artificial

Deja una respuesta Cancelar la respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

diecisiete − 12 =

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Contáctanos

94 655 40 89 / 657 793 453
info@grupodatcon-norte.com

Grupo DatCon empresa protección de datos

Novedades en la Actual LOPD

Novedades del Nuevo Reglamento Europeo de Protección de Datos

NUEVO REGLAMENTO EUROPEO DE PROTECCIÓN DE DATOS

Nuevo Reglamento Europeo de Protección de Datos – RGPD

Te Informamos Sobre Privacidad y Seguridad en Internet

Detestamos el SPAM, tus datos están seguros con nosotros :) Te visitaremos en tu email, el primer martes de cada mes

Convenio Protección de Datos con COP Bizkaia

Convenio

  Convenio GRUPO DATCON-NORTE para L.O.P.D. Convenio con la empresa GRUPO … Lee más...

Lo más leído

  • ¿Puedo instalar cámaras de videovigilancia en mi negocio?¿Puedo instalar cámaras de videovigilancia en mi negocio?
  • InicioInicio
  • Instalar un GPS para controlar a un trabajador, ¿es legal según la LOPD?Instalar un GPS para controlar a un trabajador, ¿es…
  • ¿Cómo enseñar a nuestros hijos a prevenir el Sexting?¿Cómo enseñar a nuestros hijos a prevenir el Sexting?
  • Novedades del Nuevo Reglamento Europeo de Protección de DatosNovedades del Nuevo Reglamento Europeo de Protección…
  • ¿ES OBLIGATORIO EL AVISO LEGAL DEL EMAIL?¿ES OBLIGATORIO EL AVISO LEGAL DEL EMAIL?
  • GEOLOCALIZACIÓN EN EL ÁMBITO LABORAL LEGALIDAD Y CONSENTIMIENTOGEOLOCALIZACIÓN EN EL ÁMBITO LABORAL LEGALIDAD Y…
  • Cuidado con las Conexiones WIFICuidado con las Conexiones WIFI
  • Preguntas Ilegales en una Entrevista de TrabajoPreguntas Ilegales en una Entrevista de Trabajo
  • ¿Sabes cómo te afecta el nuevo Reglamento General de Protección de Datos?¿Sabes cómo te afecta el nuevo Reglamento General de…

Categorías

  • Emprendedores (1)
  • LOPD (29)
  • Prevención de Riesgos Laborales (2)
  • Privacidad (10)
  • RGPD (14)
  • Seguridad de Datos (34)
  • Servicios (3)
  • Testimonios (2)

Conectemos ► en LinkedIn

Protección de Datos Bilbao - Julio Zorilla - Linkedin

¿Te Preocupa tu Privacidad y Seguridad en Internet?

Déja tus Datos y el Primer Martes de cada mes te visitaremos en tu Email

Acepto Política de Privacidad
Julio Zorrilla
  • Facebook
  • LinkedIn
  • Pinterest
  • Twitter
contratar proteccion de datos – rgpd – empresa proteccion de datos –  lopdgdd

AVISO LEGAL | POLÍTICA DE PRIVACIDAD | CONTACTO

info@grupodatcon-norte.com @ 2016 Grupo Datcon Norte | Teléfono: 946554089

Utilizamos cookies propias y de terceros para mejorar la experiencia de navegación del Usuario y realizar análisis estadísticos sobre su utilización. Si continua navegando, consideramos que acepta su uso. Puede cambiar la configuración u obtener más información aquí. Aceptar
Privacidad & Cookies

Privacy Overview

This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.
Necesarias
Siempre activado

Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.

No necesarias

Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.

¿Te Preocupa tu Privacidad e Seguridad en Internet?

Nosotros te contamos como preservar tu intimidad y te visitaremos en tu Email, el primer martes de cada mes

Detestamos el SPAM, tus datos están seguros con nosotros :)