Cuando me preguntan sobre regulaciones en la AI, y temor sobre la AI y que vamos a terminar
con un Terminator en nuestras casas me parece una visión un poco arcaica del tema,
porque se olvidan de otras tecnologías como biología sintética o nanotecnología y como van evolucionando a la par de la AI.
esto hace de un terminator sea una pieza de museo.
y acá si viene el tema, si bien hay intentos de regulación en el tema de AI es mucho más complejo de regular estas otras tecnologías y el uso de AI en este tipo de
contexto, pero no es solo la AI.... es el factor humano, la AI, y la Biotecnología.
Talvez hoy hablamos más de la AI porque es más marketinera. investigando veo que hay intento de regulaciones y mi intención es poder entrevistar y contarle más
sobre regulaciones en estas otras áreas y como podemos usar la IA y nosotros los seres humanos, para evitar este tipo de desarrollo,
les iré contando las distintas iniciativas que hay al respecto..
Estos días leí la siguiente nota y es por ella que me decidí a escribir mi punto de vista y comentar sobre el tema
es complejo porque hay que regular al ser humano, la tecnología ya está y la están usando, siempre me preguntan porque confío tanto
en las nuevas tecnologías, siempre me centré en mi intención de dar una mejor salud a la gente,
con el uso de las tech 4.0 eliminar enfermedades como cáncer o como alzheimer, parkinson, etc...
pero no todos piensan igual..
Hace unos días leí sobre la siguiente nota y les dejo el siguiente resumen.
Proyecto Doctor Malito y "La IA que puede crear armas químicas en minutos"
La empresa Collaborations Pharmaceuticals desarrolló una plataforma de inteligencia artificial (IA) llamada MegaSyn para diseñar medicamentos para enfermedades raras.
En 2022, los investigadores de Collaborations realizaron un experimento llamado "Proyecto Dr. Malito" para averiguar qué sucedería si MegaSyn cayera
en las manos equivocadas. Para ello, cambiaron el filtro de toxicidad de MegaSyn para que generara moléculas tóxicas.
El resultado fue que MegaSyn pudo diseñar el agente nervioso VX, una sustancia química letal prohibida por la ONU.
Los investigadores publicaron los resultados del experimento en la revista Nature Machine Intelligence,
lo que generó un debate sobre los riesgos del uso de la IA para crear armas químicas.
Principales preocupaciones
La IA generativa, como MegaSyn, puede utilizarse para diseñar nuevas moléculas tóxicas de forma rápida y sencilla.
Esto podría facilitar el desarrollo de armas químicas por parte de actores maliciosos, incluso aquellos sin conocimientos científicos especializados.
Una posible solución es educar a los científicos y al público sobre los riesgos del uso de la IA para crear armas químicas.
Otra posible solución es desarrollar nuevas tecnologías que permitan detectar y controlar el uso de la IA para fines malignos.
Una AI versus proyectos de Nano y Synbio...
Opiniones divididas
Algunos expertos consideran que los riesgos del uso de la IA para crear armas químicas son exagerados.
Señalan que identificar nuevas moléculas es apenas el primer paso en un largo camino hacia la producción de un arma por lo tanto no implica un riesgo inmediato.
Sin embargo, los investigadores de Collaborations Pharmaceuticals sostienen que la IA ha reducido significativamente
la barrera de entrada para el desarrollo de armas químicas. Argumentan que, ahora que es más fácil diseñar moléculas tóxicas,
es más probable que actores maliciosos las utilicen.
mi opinión es tenemos que crear marcos legales para acceder a ciertos elementos que no estén al alcance de la población en general y también deben todos los paises
adherirse a ello sino carece de sentido práctico, ya que aquellos que no adhieren tienen ventajas significativas con los que si se sumen a potenciales acuerdos
de control.
fuente: https://www.bbc.com/mundo/noticias-65347637