El debate en torno al uso ético y legal de la Inteligencia Artificial (IA) gana protagonismo con la propuesta de Proyecto de Ley 4025/23, presentada por el diputado Marx Beltrão. En medio de debates sobre derechos de autor, imagen y propiedad intelectual, la iniciativa tiene como objetivo aclarar cuestiones delicadas que involucran la creación y el uso de obras generadas por IA. En este contexto, la abogada Thereza Castro , especialista en derechos de autor y estratega de innovación para el mercado literario, aporta valiosos conocimientos sobre las implicaciones legales y éticas de este escenario en constante evolución.
¿Podría explicar cómo el proyecto de ley 4025/23 propuesto por el congresista Marx Beltrão aborda el uso de la inteligencia artificial en relación con los derechos de imagen de las personas representadas por la IA?
El Proyecto de Ley 4025/23 propone que la manipulación de la imagen de una persona por parte de la inteligencia artificial depende de su autorización expresa, es decir, se debe expresar el consentimiento de la persona para que sea posible manipular su imagen. Cabe señalar que estamos hablando del acto de manipular, en primer lugar, ni siquiera llegamos a las consecuencias patrimoniales del producto. Sólo para crear manipulación sobre la imagen de alguien, sea quien sea, es necesario que la persona lo autorice. Además, el proyecto señala que cuando se trate de una persona fallecida o ausente, la lista de quienes podrían otorgar esta autorización sería únicamente los cónyuges, ascendientes y descendientes.
¿Cómo ve la importancia de la autorización previa para el uso de imágenes de personas por parte de la IA, especialmente en el contexto de la aparición de deepfakes , como en el caso del anuncio de Volkswagen con Elis Regina?
La inteligencia artificial nos trae nuevos desafíos, por lo que es necesario, pensando en la seguridad de todos y en el buen uso de la herramienta, que la legislación acompañe y abrace las posibilidades de la innovación, de ahí la autorización, que es sólo un pequeño paso en medio del mar de cuestiones relacionadas con la IA, es esencial.
Hay que recordar que anteriormente ya existía la autorización para utilizar una imagen de una persona, para ser capturada o para utilizar una existente, pero la IA tiene otros horizontes, permitiendo producir imágenes de la persona que nunca sucedieron, como en el Caso del anuncio con Elis Regina.
Aunque el uso que hace Volkswagen en el anuncio, como se dijo en su momento, contó con la autorización de la familia del fallecido cantante, llama la atención sobre la confiabilidad que la IA es capaz de producir. Y si lo pensamos bien, regular la autorización es sólo la punta de un enorme iceberg que deberíamos haber superado hace mucho tiempo. Existe una necesidad urgente de regular ampliamente el uso de la IA, sólo en relación con la imagen estamos hablando de la posibilidad concreta de usos éticos y no éticos de una herramienta que puede hacer una imagen lo suficientemente realista como para inspirar creencia, lo cual es una peligro potencial en diferentes niveles.
remunerar las obras protegidas por derechos de autor utilizadas para entrenar IA generativas . ¿Qué importancia tiene esta propuesta y cómo podría afectar a los titulares de derechos de autor?
Este también es un punto muy importante, ya que la IA generativa necesita utilizar una base de datos para generar sus respuestas, y entrenarse cada vez para una mayor asertividad. En otras palabras, si se utiliza un libro protegido por derechos de autor para pedirle a la IA que genere una respuesta, cuya explicación conceptual está escrita allí, no hay ninguna remuneración para el propietario.
Parece básico decir que si quiero utilizar el trabajo de otra persona necesito pagar por ese uso, si el propietario no lo ha puesto a disposición del público, ¿verdad? Pero esto no es lo que está sucediendo en este momento, por lo que este punto de la propuesta es de suma importancia para los titulares, quienes, al fin y al cabo, deben ser remunerados por lo que produjeron como autores, incluso, con esta norma vigente en el futuro. , las empresas propietarias de las IA necesitarán aclarar y clasificar los datos que utilizan, dando más claridad a lo que están utilizando, de hecho, como la IA una vez entrenada no olvidará lo que ha aprendido, es razonable que pensemos en el período en el que dichas obras se utilizan sin compensación. De esta disposición deben derivarse normas para su aplicación efectiva.
Respecto a los derechos de autor de las obras generadas por IA , el proyecto de ley establece que no gozan de protección por derechos de autor. ¿Cómo ve esta decisión en términos de protección de los derechos de los creadores de estas obras?
Este punto es en realidad, en mi opinión, la falacia del proyecto. Porque mantiene la disposición de la Ley de Derecho de Autor (9.610/98) al establecer que sólo una persona humana puede ser autor, ya que estamos hablando de la creación de un alma. Sostiene también el punto de que la persona jurídica puede gozar de la protección en los términos de la citada Ley, lo que ocurre cuando una empresa u organización representa al colectivo de autores, por ejemplo. Sin embargo, los trabajos producidos a través de la IA están siendo ampliamente publicados por personas que le han dado una orden. ¿Estas obras serían entonces propiedad de estos seres humanos? El proyecto no nos da la respuesta. Y si pensamos que la IA en realidad utiliza una base de datos donde tenemos obras realmente producidas individual o colectivamente por personas humanas, sin el uso de IA, obras protegidas por derechos de autor, esto se vuelve aún más turbio, ya que la generación de ¿No sería tal vez el producto? ¿Utiliza extractos, aunque modificados, de estas obras? Y ésta, y muchas otras respuestas, dependen de la interpretación de qué es en última instancia la IA y de qué influencia tiene o no la persona que emite la orden sobre el producto generado.
En resumen, esto no es exactamente lo que dice la disposición del proyecto, solo dice que el producto generado no puede atribuirse a la autoría de la IA, pero no determina si podría atribuirse o no a la persona que emite el comando. Entonces, vuelvo a la pregunta, ¿a quiénes llama usted los creadores de estas obras? Porque esta respuesta también está incrustada en una reflexión sobre qué es realmente la IA y el papel de quienes le dan órdenes .
Partiendo del punto de que el producto generado por IA no goza de protección de derechos de autor y que el controlador humano simplemente presiona teclas, entonces todo lo generado por IA sería de uso gratuito, lo que parece un problema para aquellos que de alguna manera pueden he entendido diferente al comprar una licencia.
En el escenario internacional, existen diferentes enfoques para abordar los productos generados por IA generativas . ¿Podría explicar las principales escuelas de pensamiento y cómo se relacionan con el proyecto de ley propuesto?
Sí, no hay unanimidad sobre cómo abordar la IA, del mismo modo que no hay consenso sobre cómo abordar el producto de su generación. Europa, con sus recientes cambios legales en lo que se llama Ley Europea de IA, es la que realmente parece estar discutiendo esto amplia y seriamente. Entendemos que hoy existen diferentes visiones sobre la IA y el papel del ser humano que la utiliza, en lo que respecta a los derechos sobre el producto generado por esta interacción.
Una de las corrientes propone que si bien la creación autoral es desde el alma humana, la protección patrimonial quedaría para el poseedor de la herramienta, por lo que los contenidos deberían ser licenciados. Aquí tenemos entendido que el desarrollador creó una máquina compleja capaz de entregar resultados creativos, y los comandos del ser humano no tienen tanta influencia en este punto, siendo solo presionar botones.
Desde el segundo punto de vista, tenemos una falta general de protección de los derechos de autor, ni para la máquina ni para el ser humano que dio la orden. Inicialmente, esto parece una tendencia seguida por el proyecto. En este caso, la máquina carece de alma, por compleja que sea, y el ser humano no tiene ningún aporte fundamental de alma y creatividad al producto final . Entonces podríamos entender un uso gratuito del resultado.
Un tercero tampoco otorga protección de derechos de autor, pero limita el producto al uso general entendiendo que el titular sería el ser humano o empresa que asignó los comandos y pagó la licencia del software, este sería entonces quien podría explotar el resultado generado por la IA. En esta visión, tenemos la IA como una herramienta, cercana a lo que vemos en otros software, como una suite ofimática, pagamos por usarla , pero lo que generamos en ella es, en primera instancia, quién paga por su uso. usar.
¿Está de acuerdo en que analizar los derechos implicados en los productos de IA sería más eficaz si se analizara caso por caso? ¿Cómo podría afectar esto al uso seguro de la IA en diversas áreas?
Entiendo que habrá casos en los que será necesario el análisis individual, el punto es sumamente complejo y sus consecuencias pueden serlo aún más, por lo tanto, incluso una legislación que intente regular todas las posibilidades fracasará, pero debe existir para guiar el análisis. Sin duda, el caso surgirá como una necesidad, cuando las normas rectoras no sean suficientes para la situación de hecho que se plantea.
Lo que no podemos, sin embargo, es operar sin estas reglas generales, que sólo surgirán a través de un amplio debate y se referirían a la tecnología que ya se nos presenta. Si bien la legislación existente es amplia, no cubre muchas de las posibilidades y desafíos que ya nos brinda la IA, lo que genera inseguridad no sólo por la falta de claridad en la aplicación de lo que ya existe sobre esta nueva tecnología, sino también por Posibles usos de lagunas legales para lo que actualmente no se logra con las leyes existentes. Recordemos uno de los principios fundamentales de nuestra Carta Magna que pretende traer seguridad, pero que también obliga al legislador a estar acorde con los tiempos que se presentan, el art. 5, II de la Constitución Federal brasileña establece: “Nadie estará obligado a hacer o dejar de hacer nada excepto en virtud de la ley”.
¿Qué importancia tiene establecer reglas claras para el uso y exposición de las IA en relación con los derechos de autor y de propiedad intelectual?
Es importante para nosotros hacer un uso seguro, ético y transparente de esta tecnología, asegurando que todos sepan qué están usando, que las bases de datos no violan derechos, cómo y cuándo pueden o no usar los productos generados por la IA. herramienta, que si se utiliza, al presentar un producto con su uso, quede claro que así ocurrió, no confundiendo la creación con esta interferencia de quienes no la utilizaron. En otras palabras, las reglas brindarán seguridad y un trato justo a todos los involucrados.
¿Cree que la evolución de la tecnología IA hace que sea más difícil analizar los derechos relacionados con los productos que genera? ¿Cómo afecta esto a los profesionales implicados y a los derechos de creación?
Sin duda, a medida que la IA mejora, se vuelve más difícil detectar sin una exposición clara que se utilizó la herramienta, ya sea para crear imágenes o componer texto, por ejemplo. Si esto no queda claro, damos la posibilidad de valorar dos cosas diferentes con el mismo peso. Es importante, a la hora de presentar un trabajo, por ejemplo, que las reglas sean las mismas, por lo que si existe la posibilidad de utilizar IA hay que extenderla a todos, si no entonces nadie podrá utilizarla. Este supuesto asegura que todos se sientan justos, tratados de la misma manera y partiendo de un punto más o menos igual. Si no establecemos estándares previos, alguien podría presentar un producto como propio y, al tener una IA muy desarrollada, afirmar o detectar el uso de la IA sería prácticamente imposible sin un análisis muy profundo, que transmitiría información falsa y daría una ventaja injusta.
El reciente caso de la descalificación de una obra del premio Jabuti por el uso de IA para generar su portada plantea interrogantes sobre qué queremos abarcar en relación al uso de la IA. ¿Cómo ve este caso en términos del futuro del uso de la IA?
El caso es una ilustración de lo que mencioné en la pregunta anterior. Si estamos evaluando una portada que teóricamente fue generada sólo por la creatividad humana, no es justo que tengamos una que utilizó la ayuda de la máquina evaluada con el mismo criterio. Entiendo que la decisión de descalificación se tomó con el fin de garantizar una visión equitativa y justa de los competidores, y ya demuestra la dificultad para detectar este uso, permitiendo que no se vea hasta un punto avanzado de la evaluación, esto resalta la urgencia necesidad de reglas, y también demuestra que posiblemente, teniendo esas reglas, tendremos una distinción entre lo que se hizo con la máquina y lo que no, garantizando un trato equitativo en situaciones similares.
Teniendo en cuenta la complejidad y las posibles ramificaciones del uso de la IA, ¿qué pasos sugiere para mejorar el tratamiento legal y ético de la IA en los próximos años?
Es esencial que discutamos como sociedad nuestra comprensión de la IA y disciplinaremos su uso, esto asegurará que seamos capaces de hacer frente a los futuros desarrollos de la tecnología, que ya se están presentando muy rápidamente, con un mínimo de dirección, para que De vez en cuando Es hora de que volvamos a examinar este tema y eliminemos, en la medida de lo posible, los usos que violan los derechos individuales y fundamentales de los seres humanos.
Debemos discutir y regular este punto para que podamos innovar con su uso de forma segura, sabiendo qué será de las nuevas creaciones, qué se puede hacer o a qué puntos debemos prestar atención, y para poder prevenir rápidamente errores. usos de la tecnología.
Además, mientras sigamos estancados, el debate ético también permanecerá estancado, dejando a nuestra sociedad actual y a las generaciones futuras que hoy estamos siendo educadas, sin preparación para afrontar este futuro, o viviendo con un futuro sin directrices claras, una futuro que corre tan rápidamente hacia nosotros.
Sigue a Teresa Castro en Instagram