top of page
Consulta a Wolfie.gif

Tecnología vs. Ética: La llamada de los líderes destacados para frenar el desarrollo de IA avanzada.

Estamos viviendo un momento crucial en la historia de la IA, con implicaciones de gran alcance para la industria de la música y para todos los sectores en mayor o menor medida. Hasta tal punto que, una gran parte de la comunidad tecnológica, entre ellos Elon Musk, se han puesto de acuerdo para impedir el entrenamiento de herramientas basadas en inteligencia artificial que vayan más allá de GPT-4.



Se ha publicado una carta abierta, con más de 1.000 firmantes entre los que se incluyen multitud de destacados líderes tecnológicos, científicos y académicos, en la que se insta a todos los laboratorios de IA a detener el entrenamiento de sistemas de IA que superen la potencia de GPT-4 durante al menos 6 meses.


El documento establece que todas las partes implicadas deben hacer una pausa pública y verificable lo antes posible. Si esto no puede lograrse a tiempo, los gobiernos deben tomar medidas y declarar una moratoria.


Entre las figuras más relevantes que han firmado el documento se encuentran Emad Mostaque, responsable de Stability AI (desarrollador del conocido generador de texto a imagen Stable Diffusion), Evan Sharp , cofundador de Pinterest, y Chris Larsen , cofundador de Ripple.


La carta se inició gracias a Future Of Life Institute y, además de miles de personas influyentes dentro del sector, también ha sido firmada por Elon Musk, consejero delegado de SpaceX, Twitter y Tesla, y Steve Wozniak, cofundador de Apple.

La presencia de Musk es especialmente importante, ya que contribuyó a la creación de OpenAI Incorporated y aportó ayuda financiera al proyecto, que culminó con el lanzamiento de GPT-4 el pasado 14 de marzo.


OpenAI, con sede en San Francisco, era originalmente una organización sin ánimo de lucro. En 2019 pasaron a ser una empresa con ánimo de lucro. Microsoft puso un paquete de inversión de 10.000 millones de dólares en enero de este año (2023).


Open AI se refiere a GPT-4, también conocido como Chat GPT-4, como "el último avance en su empeño por aumentar el aprendizaje profundo". GPT-4 afirma ser capaz de alcanzar el mismo nivel de resultados que los humanos en muchas pruebas profesionales y académicas, aunque sus capacidades pueden ser insuficientes en escenarios del mundo real.


Musk y los demás firmantes de su carta abierta titulada "Pausa a los experimentos gigantes de IA" subrayaron los peligros potenciales de los sistemas de IA con capacidad para igualar la inteligencia humana. Afirmaron que tales riesgos han sido explorados a fondo y reconocidos por los principales laboratorios de IA.

"¿Queremos realmente que la IA nos inunde de información falsa? ¿Estamos preparados para dejar que las máquinas nos quiten los trabajos significativos? ¿Nos atrevemos a crear mentes no humanas que podrían llegar a superarnos en inteligencia y tomar el control de nuestra civilización? Estas decisiones no deberían dejarse en manos de magnates de la tecnología que no han sido elegidos", se preguntan los autores.

Y es que sólo debemos crear sistemas sofisticados de Inteligencia Artificial cuando estemos seguros de que los resultados que aportan serán beneficiosos y de que sus peligros potenciales pueden gestionarse. En otra sección de la carta, los autores analizan las posibles ramificaciones de la IA generativa en diversos aspectos de los negocios, la política y la economía.


Los autores abogan por reorientar la investigación y el desarrollo de la IA para perfeccionar los sofisticados y avanzados sistemas actuales con el fin de que sean más precisos, seguros, comprensibles, aparentes, fuertes, acordes, fiables y devotos.


Al mismo tiempo, los desarrolladores de IA deben colaborar con los responsables políticos para acelerar significativamente la creación de estructuras de gobernanza fiables en materia de IA. Éstas deberían incluir, como mínimo: agencias reguladoras actualizadas y bien informadas dedicadas a la IA; seguimiento y supervisión de los potentes sistemas de IA y de las vastas bases de datos de capacidad informática; métodos de rastreo y marca de agua para diferenciar lo genuino de lo artificial y rastrear la fuga de modelos; un ecosistema de auditoría y certificación bien establecido; responsabilidad por la destrucción causada por la IA; fondos públicos bien financiados para la investigación técnica de seguridad de la IA; y organizaciones bien dotadas de recursos para gestionar las extremas transformaciones económicas y políticas (en particular para la democracia) causadas por la IA.


Además, se propone utilizar productos creados por IA para distinguir entre artículos auténticos y artificiales, una idea que probablemente será bien acogida por la industria musical en cuanto a propiedad intelectual se refiere.


Otra de las acciones que se han llevado a cabo a principios de marzo ha sido la Campaña por el Arte Humano, cuyo objetivo es garantizar que la IA no socave ni suplante la cultura y el arte generados por humanos. En ella colaboraron cerca de 30 organizaciones vinculadas a la industria musical.


Entre los firmantes del documento figuran la Recording Industry Association of America, la Recording Academy, SAG-AFTRA y SoundExchange. Estas organizaciones estaban representadas por la RIAA.


Fuente: Music Business Worldwide

Comments


Consulta a Wolfie.gif
bottom of page