julio 13, 2021

Control de la Inteligencia Artificial (IA)

Filed under: Comercio Electrónico,Informática,Propiedad Intelectual e Industrial,Protección de Datos,Uncategorized — Etiquetas: , , , — legisconsulting @ 13:16

(AI) could be the “worst event in the history of our civilization” unless society finds a way to control its development.

Stephen Hawkings

Índice:

  • Que es la IA
  • A quien se aplicará en Reglamento
  • Actividades regladas de IA
    • Riesgo inaceptable
    • Alto riesgo
    • Riesgo limitado
    • Riesgo mínimo
  • Apéndice normativo

Resulta paradójico que diga algo así una persona como el profesor Hawkings que pasó sus últimos 20 años comunicándose a través de un sensor colocado en la mejilla con el que activaba un ordenador con un algoritmo predictivo basado en sus libros y conferencias que le permitía hablar con cierta fluidez.

Y aunque la Inteligencia Artificial (IA) suene a Ciencia Ficción, a un futurible aún lejano y distante, nada hay más lejos de la realidad.

Ese aspirador que conoce mi casa mejor que yo porque ha creado (literalmente) un plano de la misma al milímetro; Los filtros de SPAM de mi correo que deciden qué es de mi interés y qué no lo es; Los ‘teleoperadores’ con los que chateamos o hablamos por teléfono que no son más que una máquina (chatbots) sin que tan siquiera lo notemos porque a veces hasta hacen bromas; Los anuncios que me salen en el ordenador o en el teléfono justo de lo que me interesa comprar; Las noticias que me aparecen por defecto y que son, curiosamente, las que más se ajustan a mis opiniones y que me hacen pensar si se pueden ‘orientar‘ esas opiniones; Los Asistentes Virtuales de casa o del teléfono que ‘asisten‘, pero también ‘espían‘ analizando todo lo que buscamos, decimos o hacemos a partir de lo que decimos con la excusa de poder ‘asistirnos’ en la más estricta intimidad de nuestro hogar; O los vídeos de famosos diciendo o haciendo cosas increíbles, pero falsas (deepfake) que pueden ser una broma de programas de entretenimiento, pero en temas serios ¿podemos creer lo que vemos?.

Y estos son solo los usos diarios de la IA. Y solo por ello, se ha entendido que es importante una regulación necesaria para preservar la intimidad, la libertad, la autonomía de cada persona, sus derechos y su seguridad.

Que es IA

Artículo3 A los efectos del presente Reglamento, se entenderá por:

1)«Sistema de inteligencia artificial (sistema de IA)»: el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.

A quien se aplicará el Reglamento y sus restricciones

Artículo2 Ámbito de aplicación

1.El presente Reglamento es aplicable a:

a)los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA en la Unión, con independencia de si dichos proveedores están establecidos en la Unión o en un tercer país;

b)los usuarios de sistemas de IA que se encuentren en la Unión;

c)los proveedores y usuarios de sistemas de IA que se encuentren en un tercer país, cuando la información de salida generada por el sistema se utilice en la Unión.

Actividades regladas de IA

Al ser imposible alcanzar a prever todas las aplicaciones concretas de la IA, la clasificación de las mismas que la Comisión hace en su propuesta se basa en el ‘riesgo’ que su uso conlleva, clasificándolas como de:

Riesgo inaceptable: Se prohibirán los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de vida y los derechos de las personas. Esto incluye los sistemas o aplicaciones de IA que manipulan el comportamiento humano para eludir el libre albedrío de los usuarios (por ejemplo, los juguetes que utilizan asistencia de voz y fomentan el comportamiento peligroso de los menores) y los sistemas que permiten el «scoring social» por parte de los gobiernos.

Alto riesgo: Los sistemas de IA identificados como de alto riesgo incluyen la tecnología de IA utilizada en:

  • Infraestructuras críticas (por ejemplo, el transporte), que podrían poner en riesgo la vida y la salud de los ciudadanos;
  • La formación educativa o profesional, que puede determinar el acceso a la educación y el curso profesional de alguien (por ejemplo, la calificación de los exámenes);
  • Componentes de seguridad de los productos (por ejemplo, aplicación de la IA en la cirugía asistida por robots);
  • Empleo, gestión de los trabajadores y acceso al autoempleo (por ejemplo, software de clasificación de CV para los procedimientos de contratación);
  • Servicios privados y públicos esenciales (por ejemplo, puntuación de créditos que niega a los ciudadanos la oportunidad de obtener un préstamo);
  • Aplicación de la ley que puede interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas);
  • Gestión de la migración, el asilo y el control de fronteras (por ejemplo, verificación de la autenticidad de los documentos de viaje);
  • Administración de justicia y procesos democráticos (por ejemplo, aplicación de la ley a un conjunto concreto de hechos).

Los sistemas de IA de alto riesgo estarán sujetos a estrictas obligaciones antes de poder comercializarlos:

  • Sistemas adecuados de evaluación y mitigación de riesgos;
  • Alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios;
  • Registro de la actividad para garantizar la trazabilidad de los resultados;
  • Documentación detallada que proporcione toda la información necesaria sobre el sistema y su finalidad para que las autoridades puedan evaluar su conformidad;
  • Información clara y adecuada al usuario;
  • Medidas adecuadas de supervisión humana para minimizar el riesgo;
  • Alto nivel de solidez, seguridad y precisión.
  • En particular, todos los sistemas de identificación biométrica a distancia se consideran de alto riesgo y están sujetos a requisitos estrictos. Su uso en vivo en espacios de acceso público con fines policiales está prohibido en principio. Las limitadas excepciones están estrictamente definidas y reguladas (como cuando es estrictamente necesario para buscar a un niño desaparecido, para prevenir una amenaza terrorista específica e inminente o para detectar, localizar, identificar o procesar a un autor o sospechoso de un delito grave). Esta utilización está sujeta a la autorización de un órgano judicial u otro órgano independiente y a límites adecuados en cuanto a tiempo, alcance geográfico y bases de datos consultadas.

Riesgo limitado, es decir, sistemas de IA con obligaciones específicas de transparencia: Cuando se utilizan sistemas de IA, como los chatbots, los usuarios deben ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o retroceder.

Riesgo mínimo: La propuesta legal permite el libre uso de aplicaciones como los videojuegos con IA o los filtros de spam. La gran mayoría de los sistemas de IA entran en esta categoría. El proyecto de Reglamento no interviene aquí, ya que estos sistemas de IA representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.

Referencia normativa Propuesta de Reglamento :

  • Aplicaciones de IA de “alto riesgo” (Arts. 5 a 40): se considera que ciertas aplicaciones de la IA pueden suponer serios riesgos para los ciudadanos, por lo que:
    • establece determinados requisitos (Art. 8ss),
    • exige información a los usuarios (Art. 13)
    • o se exige ‘vigilancia humana’ de la actividad automatizada(Art. 14)  en determinados casos, como por ejemplo, el uso de IA para identificación biométrica o para el funcionamiento de infraestructuras críticas.
  • Aplicaciones de IA prohibidas: Art. 5.1
  • Aplicaciones de IA sujetas a autorización: Art. 30
  • Aplicaciones de IA con requisitos específicos: Art. 41 , por ejemplo caso de uso de  “chatbot” o sistemas de “deepfake”.

«El éxito en la creación de la inteligencia artificial podrá ser el evento más grande en la historia de la humanidad. Desafortunadamente también sería el último, a menos de que aprendamos cómo evitar los riesgos«

Stephen Hawkings

Post to Twitter Post to Plurk Post to Delicious Post to Facebook

marzo 2, 2012

Inseguridad contractual: caso real

Filed under: Comercio Electrónico,Contratos — Etiquetas: , , — legisconsulting @ 13:02

Un mal contrato –o su carencia– genera inseguridad y conflictos que afectan a ambas partes cuando la función del contrato es exactamente la contraria: generar seguridad y beneficios para ambas.

Es el que sigue un caso real publicado en un Blog, y que por ser público y haber recibido autorización de su autor, puedo transcribir aquí de forma literal, tanto la queja de un usuario/profesional de un servicio de Internet como mi respuesta.

Planteamiento del tema por una de las partes

Un usuario resuelve un contrato de prestación de servicios a través de Internet al amparo de una de las cláusulas del mismo que ha sido posteriormente modificada de forma unilateral por el prestador del servicio..

A pesar de haber sido resuelto en plazo y forma según la redacción original del contrato, la contraparte sigue emitiendo recibos en ejecución del mismo.

Texto completo del post

Situación de las partes

Copia textual de la respuesta puesta a disposición del usuario del servicio

Buenos días,

Me ha pasado XXX tu post y me ha pedido que a ver si te lo podía comentar.

Tu razonamiento es jurídicamente correcto: los términos del contrato son los que se establecen al momento de su formalización y su modificación posterior requerirá de un nuevo acuerdo de las partes, y no de una mera ‘notificación’.

Pero entiendo al mismo tiempo que no es este el problema de fondo que se te plantea, sino el de la interpretación del contrato (obviamente del antiguo que es el aplicable)

Por una parte resulta evidente  que el tenor literal del contrato reconoce un derecho de desistimiento del contrato durante los primeros 9 meses del mismo: (“Ambas partes podrán renunciar al contrato de 12 meses de duración, siempre que lo indiquen con una antelación mínima de tres meses antes de la finalización del mismo”), aunque el resto de la cláusula se refiere a la denuncia del mismo antes de su prórroga automática caso de que no medie tal denuncia.

De ahí viene el problema de interpretación del contrato: de lo que probablemente es simplemente una mala traducción que puede llevar a pensar que una cosa es lo que dice textualmente y otra distinta lo que parece querer decir.

Desde este punto de vista eKomi puede alegar que la intención del contrato era otra: que toda la cláusula se refiere a la denuncia del contrato al terminar su plazo a fin de que no se genere la prórroga tal como han corregido en la nueva cláusula (que insisto que no te sería aplicable). Y tal interpretación sí tendría su amparo en el Código Civil en su artículo 1281 que te transcribo:

“Si los términos de un contrato son claros y no dejan duda sobre la intención de los contratantes se estará al sentido literal de sus cláusulas.

Si las palabras parecieren contrarias a la intención evidente de los contratantes, prevalecerá ésta sobre aquéllas.”

Por otra parte, y en una interpretación a tu favor, entiendo que hay otro artículo del Código Civil, el 1288, que manifiesta que las cláusulas dudosas no pueden interpretarse a favor de quien las redactó. Y es por ello por lo que considerando que se trata de un claro contrato de adhesión –sin que quepa controversia en este aspecto– en que no ha mediado negociación alguna, se puede invocar la interpretación literal de la cláusula que mencionaba antes para defender tu postura.

Aparte de esto, he leído el resto del contrato y caso de que medie reclamación por parte de eKomi, hay algunas otras cláusulas que considero en principio dudosas y que afectarían directamente a la reclamación y que, si llegara el momento, habría que cuestionar.

Espero haberte dado una idea más clara de en qué situación te encuentras y lamento no poder darte una respuesta única y clara, pero son las consecuencias que generan los contratos mal redactados (o traducidos).

Aunque de momento poco más hay que decir sobre el tema, si tienes alguna otra cuestión sobre el tema me puedes encontrar en www.legisconsulting.com, o a través de twitter en @legisconsulting o incluso plantear esta u otra cuestión a través de @asklegis.

Un saludo

José Mª

Post to Twitter Post to Plurk Post to Delicious Post to Facebook

enero 25, 2012

Informáticos y sus Contratos de Desarrollo: elementos relevantes

Filed under: Contratos,Informática,Propiedad Intelectual e Industrial — Etiquetas: , , — legisconsulting @ 11:25

Siendo un  contrato complejo, trata el presente post de mostrar de forma breve y muy general los elementos del Contrato de Desarrollo que entiendo como especiales y a los que inexplicablemente, por regla general y a pesar de ser determinantes para el buen fin del mismo, se presta poca atención en su parte formal.

No tenemos contrato

No tenerlo por escrito no quiere decir que no haya un contrato. Si hay un acuerdo sobre el objeto (aunque este sea muy general) y el precio y se puede demostrar el acuerdo de voluntades sí que existe un contrato.

Y si, por ejemplo, dentro de la fase de negociación hemos dicho cosas como que el trabajo incluirá ‘todo lo necesario para colgarlo en internet’. Será eso los que nos sea exigible, TODO: diseño, programación, servidores, mantenimiento, conexión a Internet o cualquier cosa que la imaginación de la otra parte quiera exigir.

Es por ello que entiendo necesario tener un contrato firmado lo más claro y conciso que un objeto tan abierto e indeterminado como este permita. Podemos pactar lo que queramos, pero lo que fijemos en el contrato será lo que sea exigible, ya que hay una máxima en derecho que dice que los contratos son lo que son, y no lo que las partes dicen que son. Y para ello habrá que atender a los elementos que integran el contrato uno por uno

Objeto del contrato

Como cualquiera que esté leyendo este post sabe, el objeto de este tipo de contrato (lo que nos comprometemos a hacer), es algo difícil de determinar, integrado por numerosos elementos distintos, que incluso puede cambiar durante su desarrollo.

Para la determinación del mismo es posible incluir, dentro del cuerpo del contrato o como anexo al mismo gráficos, esquemas o diagramas que ayuden a determinar tal objeto. Lo que nos comprometemos a entregar.

Elementos que forman parte del Objeto

Pero eso que nos estamos comprometiendo a entregar es un todo que está formado por diversos elementos que deben ser tratados individualizadamente en el contrato por ser considerados por la ley de forma distinta cada uno de ellos. Entre otros:

  • Parte de Programación: La propiedad del código fuente es obviamente del programador, que concede una licencia en los términos que se fijen en el propio contrato (límites de uso, duración, garantías, etc).
  • Parte de Diseño: Al igual que la anterior, nos encontramos dentro de derechos de propiedad intelectual
  • Licencias u objetos adquiridos de terceros: Son elementos no desarrollados o creados por ninguna de las partes en el contrato y que como parte integrante del objeto deberán ser transmitidas dentro del mismo. En este sentido, habrá que determinar en el contrato, si procede, las condiciones en que se adquirirán y transmitirán tales licencias.
  • Otros elementos: Ya sean estas adquisiciones a título de propiedad o no, o incluso aportados por la otra parte y que determinen el buen fin del contrato.

Transmisión

Será necesario al mismo tiempo determinar la forma y el momento en que se hará la entrega del Objeto. Considerando en cualquier caso que, como se ha visto, lo que se transmite no es la propiedad del mismo por estar integrado por los más variados elementos y ser ello imposible, sino la titularidad del mismo en unas condiciones determinadas.

Plazos

Los plazos en este tipo de trabajos pueden variar considerando que hay elementos que dependen de terceros ajenos al contrato o en base a los términos del contrato o a las condiciones de trabajo.

La solución a este problema está en establecer plazos flexibles en función de las circunstancias, porque flexible no quiere decir en modo alguno indeterminado.

Garantías

Este apartado genérico incluiría tanto garantías de los propios trabajos, como penalizaciones por incumplimiento de alguna de las partes, cláusulas resolutorias o de desistimiento o incluso cláusulas de no competencia.

Las garantías deben cubrir, en su medida, a ambas partes. Un contrato es un acuerdo entre partes en las que las dos deben estar equilibradas porque ambas deben ganar con el contrato al ser esa es la función y razón de existir última del mismo.

Precio y gastos

Deberá incluir, tanto el evidente precio y forma en que se pagará la contraprestación por el Objeto del contrato, como la determinación de quien, en qué momento y con qué controles en su caso, abonará los gastos que se generen durante el desarrollo del contrato.

Los Contratos de Desarrollo son algo muy complejo, que normalmente no se firma, que normalmente se entrega con retraso y con los que normalmente nunca pasa nada. Pero normalmente los cruceros tampoco naufragan.

Post to Twitter Post to Plurk Post to Delicious Post to Facebook

octubre 27, 2011

Lo mejor es no leer los contratos

Filed under: Contratos,Emprender,Informática — Etiquetas: , , , — legisconsulting @ 10:16

El otro día, hablando con un informático me comentaba que en este sector raramente se firman contratos. Y que aunque los proyectos por regla general se entregan tarde, normalmente nunca pasa nada.

Trata este post de la imperiosa necesidad de documentar los Contratos de Desarrollo (o de prestación de servicios) con la asistencia de abogado. Esos que los informáticos nunca (o casi) documentan.

Si firmamos un contrato para la semana del apartamento de la playa ¿¡Cómo no lo firmamos para algo tan abierto y de elevado en coste y trabajo como un contrato de desarrollo!?. Un contrato que debería servir para no volver a leerlo porque:

  1. el negocio ha salido bien y no hay queja ni conflicto con el cliente,
  2. o que, aun habiendo queja, lo firmado es estrictamente lo que le hemos dado al cliente sin posible interpretación o discrepancia sobre lo efectivamente prestado/entregado

¿Y si no tenemos contrato?

Eso es simplemente imposible. Podrás no tener un documento firmado en el que se señale exactamente en qué consiste el objeto del contrato y el precio, pero ello no significa que no haya un acuerdo de voluntades por el que se presta un servicio a cambio de un precio… un contrato al fin y al cabo.

Piensa que cuando vas a comprar el pan cada mañana hay un acuerdo de voluntades entre el panadero y nosotros en el que este panadero nos entrega la barra de pan a cambio de un precio. Un contrato en toda regla.

Y si el pan es de hace una semana podemos reclamar que nos devuelvan el precio (resolución del contrato que se dice en derecho) o que nos den pan del día (cumplimiento del contrato).

Su WEB de empresa personalizada con todo lo que necesita por 200,00€

Resulta evidente que en el caso del panadero, determinar en qué consiste el contrato es muy claro ¿Pero es igual de claro en todos los casos?

Pensemos en un anuncio en su web, estimado lector, como el que encabeza este apartado. Una idea que hemos planteado para que el propio usuario, utilizando un programa Online, se fabrique él mismo su propia web eligiendo entre un número de plantillas, colores y formatos.

Y, como el panadero, no tenemos ni un contrato que firmar con el cliente y ni tan siquiera hemos colocado unas ‘Condiciones de Servicio’ o un ‘Aviso legal’.

Un listillo

¿No habéis oído la historia de la Web de Carrefour en que un cliente encontró una tele de 50’’ por 20,00€ en lugar de por 2.000€ y se la entregaron?

Porque el anuncio colgado no dice lo que ofrecemos ni hemos establecido unas condiciones, llega un listillo que pide una Web:

–          Con 200 subdominios (1 para cada uno de sus productos) con interconexiones entre ellos para facilitar la compra del cliente y servicios de indexación para búsquedas libres.

–          Con contenidos en 17 idiomas (incluidas las traducciones)

–          Gestión de devoluciones

–          Sistema de correo

–          Sistema de recomendación de productos

–          Importación de productos

–          Colocación de los iconos en pantalla de acuerdo con las normas de Feng Shui sobre un fondo con efectos de agua fluyendo en una cascada que atraiga el dinero

–          Y un servidor (o 25) en que colgar la web.

Al fin y al cabo la oferta dice “personalizada con todo lo que necesita”

Pero eso no pasa

Obviamente es este un caso que nunca se va a dar. Lo exigido es tan desproporcionado a cambio de tan ridículo precio que resulta evidente su imposible cumplimiento.

Y caso de que el ‘listillo’ llegara  a demandar, como máximo entiendo que conseguiría –en el mejor de los casos y como máximo– una indemnización por un porcentaje del coste real de lo solicitado. Y ello sólo cuando fallen los tribunales pasados un par de años como mínimo.

Y me pregunto yo: ¿pero no hubiera sido más razonable/rentable  fijar las condiciones de la forma más tasada y legal posible desde un principio?… Porque aunque estas cosas NORMALMENTE no pasen, el coste del profesional para estar más seguro de que las cosas no pasen es mínimo.

Post to Twitter Post to Plurk Post to Delicious Post to Facebook