Somos absurdos en esta cuestión, se está hablando muchísimo sobre unanespecie de marketing terminal sobre que necesitan parar y regular la maquina para de verdad dominarla (dominarnos), y lo dicen tan panchos; lo verdaderamente absurdo es permitir a unos pocos en el mundo decir esto, incluso independientemente de que sea verdad, si mi vecino me dice que hay un 10 por ciento de posibilidades de que te mate mañana al cruzarnos en el ascensor me resaltaría inaceptable, incluso aunque fuese el del ático y pagase la electricidad del edificio entero. EL PROBLEMA COMIENZA A NO SER LA MÁQUINA SI NO EL SISTEMANQUE LA HACE POSIBLE.
La historia de la autoregulación, es el devenir de los últimos años de BOEING, y a la vista están los resultados. A estos, se les cayeron dos aviones enteros (de momento) y muchos otros desastres técnicos que han costado mucho dinero. La cuestión es trasladar esto a la Ai para implementar protecciones externas para la sociedad. De momento ninguna visible.
Que la IA tenga o no ciertas utilidades como apoyo no está a discusión, pero si su rentabilidad real.
Es una burbuja. Con empresas que su modelo de negocio es competir por desarrollar el mas puntero y no el beneficio. Creo que han subestimado el coste necesario para entrenar los modelos y que no podran trasladar el coste real a las empresas para amortizar la inversión antes de que los acreedores llamen a la puerta.
Y dudo mucho que hayan alcanzado la singularidad en la IA, pero si que son conscientes de que no pueden controlar realmente los modelos si los dejan a su aire
El quid de la cuestión es que esto se ve desde el gobierno americano como un “proyecto Manhattan”. Si la IA es la tecnología definitoria del siglo XXI, y es capaz de tener gran utilidad en el aspecto militar (análisis, ciberataques, etc), una gran potencia como USA no puede permitirse quedarse atrás en la carrera, porque si sus oponentes (China) les pasan se pierde capacidad de disuasión. Exactamente como con la bomba atómica, que también tenía una probabilidad de consecuencias catastróficas. Porque quedarse atrás quiere decir que las consecuencias catastróficas te las vas a comer tú sí o sí…
Este creo que es el razonamiento gubernamental, que me atrevería a decir que es probable que no cambiase demasiado con otra administración… aunque seguramente otra gente al mando lo hiciese de manera más soterrada y elegante
Imagina que las 5 empresas que hacen coches se están gastando tanta pasta en competir entre ellas que se dan cuenta que no pueden conseguir el ROI. Imagina que se juntan y deciden que o paran o se hunden, pero estamos en una sociedad capitalista donde otra empresa puede entrar y hacerlo mejor (ejem). Entonces es cuando le piden al gobierno que obligue a todos a reducir la investigación o el siguiente coche explotará en la autopista. No podemos sospechar que están actuando como un cártel por su propio interés?
Ya en 2022 un paper recoge un experimento que consistía en pedirle a una IA moléculas candidatas para usar en una guerra química. Sacó 40.000. El problema no es sólo lo que pueda hacer la IA por su cuenta, que por ahora no tiene voluntad ni objetivos propios, sino lo que otros pueden hacer con ella. Aquí está el artículo, por si queréis hacer la guerra química por vuestra cuenta:
"In less than 6 hours after starting on our in-house server, our model generated forty thousand molecules that scored within our desired threshold. In the process, the AI designed not only VX, but many other known chemical warfare agents that we identified through visual confirmation with structures in public chemistry databases. Many new molecules were also designed that looked equally plausible."
Mi impresión es que las empresas de IA están en plena campaña de marketing diciendo que la IA es capaz de hacer maravillas y luego en la vida real vemos que falla en cosas básicas. Las empresas que están en campaña son las americanas y lo que hagan por su parte no tiene porqué hacer que China, Rusia, India sigan su camino.
Y como siempre los medios de "información" repiten acríticamente lo que les han contado encantados, porque es una historia sensacionalista. Lo de contrastar la información y pedir datos ya si eso para dentro de un tiempo.
Se están olvidando que si se produce un problema, el responsable es la persona que pidió a la IA hacer algo y la empresa que ha creado la herramienta. Las máquinas no son entes autónomos que se les ocurra cualquier travesura.
Somos absurdos en esta cuestión, se está hablando muchísimo sobre unanespecie de marketing terminal sobre que necesitan parar y regular la maquina para de verdad dominarla (dominarnos), y lo dicen tan panchos; lo verdaderamente absurdo es permitir a unos pocos en el mundo decir esto, incluso independientemente de que sea verdad, si mi vecino me dice que hay un 10 por ciento de posibilidades de que te mate mañana al cruzarnos en el ascensor me resaltaría inaceptable, incluso aunque fuese el del ático y pagase la electricidad del edificio entero. EL PROBLEMA COMIENZA A NO SER LA MÁQUINA SI NO EL SISTEMANQUE LA HACE POSIBLE.
La historia de la autoregulación, es el devenir de los últimos años de BOEING, y a la vista están los resultados. A estos, se les cayeron dos aviones enteros (de momento) y muchos otros desastres técnicos que han costado mucho dinero. La cuestión es trasladar esto a la Ai para implementar protecciones externas para la sociedad. De momento ninguna visible.
En esta cuestión me sorprende lo poco que se cita que en la UE la IA ya está regulada desde hace dos años: https://ai-act-service-desk.ec.europa.eu/es/ai-act-explorer
Que la IA tenga o no ciertas utilidades como apoyo no está a discusión, pero si su rentabilidad real.
Es una burbuja. Con empresas que su modelo de negocio es competir por desarrollar el mas puntero y no el beneficio. Creo que han subestimado el coste necesario para entrenar los modelos y que no podran trasladar el coste real a las empresas para amortizar la inversión antes de que los acreedores llamen a la puerta.
Y dudo mucho que hayan alcanzado la singularidad en la IA, pero si que son conscientes de que no pueden controlar realmente los modelos si los dejan a su aire
El quid de la cuestión es que esto se ve desde el gobierno americano como un “proyecto Manhattan”. Si la IA es la tecnología definitoria del siglo XXI, y es capaz de tener gran utilidad en el aspecto militar (análisis, ciberataques, etc), una gran potencia como USA no puede permitirse quedarse atrás en la carrera, porque si sus oponentes (China) les pasan se pierde capacidad de disuasión. Exactamente como con la bomba atómica, que también tenía una probabilidad de consecuencias catastróficas. Porque quedarse atrás quiere decir que las consecuencias catastróficas te las vas a comer tú sí o sí…
Este creo que es el razonamiento gubernamental, que me atrevería a decir que es probable que no cambiase demasiado con otra administración… aunque seguramente otra gente al mando lo hiciese de manera más soterrada y elegante
Imagina que las 5 empresas que hacen coches se están gastando tanta pasta en competir entre ellas que se dan cuenta que no pueden conseguir el ROI. Imagina que se juntan y deciden que o paran o se hunden, pero estamos en una sociedad capitalista donde otra empresa puede entrar y hacerlo mejor (ejem). Entonces es cuando le piden al gobierno que obligue a todos a reducir la investigación o el siguiente coche explotará en la autopista. No podemos sospechar que están actuando como un cártel por su propio interés?
Ya en 2022 un paper recoge un experimento que consistía en pedirle a una IA moléculas candidatas para usar en una guerra química. Sacó 40.000. El problema no es sólo lo que pueda hacer la IA por su cuenta, que por ahora no tiene voluntad ni objetivos propios, sino lo que otros pueden hacer con ella. Aquí está el artículo, por si queréis hacer la guerra química por vuestra cuenta:
https://pmc.ncbi.nlm.nih.gov/articles/PMC9544280/?utm_source=chatgpt.com
"In less than 6 hours after starting on our in-house server, our model generated forty thousand molecules that scored within our desired threshold. In the process, the AI designed not only VX, but many other known chemical warfare agents that we identified through visual confirmation with structures in public chemistry databases. Many new molecules were also designed that looked equally plausible."
Mi impresión es que las empresas de IA están en plena campaña de marketing diciendo que la IA es capaz de hacer maravillas y luego en la vida real vemos que falla en cosas básicas. Las empresas que están en campaña son las americanas y lo que hagan por su parte no tiene porqué hacer que China, Rusia, India sigan su camino.
Y como siempre los medios de "información" repiten acríticamente lo que les han contado encantados, porque es una historia sensacionalista. Lo de contrastar la información y pedir datos ya si eso para dentro de un tiempo.
Se están olvidando que si se produce un problema, el responsable es la persona que pidió a la IA hacer algo y la empresa que ha creado la herramienta. Las máquinas no son entes autónomos que se les ocurra cualquier travesura.