PELIGROS
Y AMENAZAS PARA EL AÑO 2025 Y SIGUIENTES
1.
NÚMEROS DE PUNTO (O COMA) FLOTANTE
2.
LA EDICIÓN CIENTÍFICA DEPREDADORA E HÍBRIDA.
3.
EL ESTALLIDO DE LA BURBUJA DE LA IA GENERATIVA.
1. NÚMEROS DE PUNTO (O COMA) FLOTANTE
El día 30 de octubre del año pasado se promulgó una orden
ejecutiva (1) de la Presidencia de EE UU ---la Casa Blanca--- sobre IA, en
la que aparece siete veces, siete, la expresión “floating-point”. Bien incluida
en “floating-point operation” o en “floating-point numbers”.
El contexto de la orden ejecutiva era precisamente prevenir
los riesgos y las consecuencias no deseadas o imprevisibles de esa tecnología,
la Inteligencia Artificial.
Textualmente dice
“el uso irresponsable [de la IA] podría exacerbar daños
sociales y plantear riesgos para la seguridad nacional.(…) Esta tarea exige un
esfuerzo de toda la sociedad que incluya al gobierno, el sector privado, la
academia y la sociedad civil.
Mi administración considera de suma importancia que se
regule el desarrollo y el uso de la IA de manera segura y responsable, y por
ello está impulsando un enfoque coordinado a nivel de todo el Gobierno federal
para lograrlo.
”Los ordenadores y la IA están incapacitados para algo que
un alumno de bachillerado debería saber hacer para aprobar la asignatura de
Matemáticas: en la expresión de una fórmula para un cálculo, hacer la ejecución
cuando, primero, se ha formulado y comprobado que la fórmula es la correcta y
sobre todo, segundo, cuando se han simplificado las expresiones no enteras y no
racionales y las variables o parámetros susceptibles de contenerlas.
Esto quiere decir que en el proceso se pueden introducir
cantidades no exactas que, aún siendo muy aproximadas, en el cálculo de una IA
pueden superar fácilmente un número de 2 elevado a 20 (más de un millón) de
operaciones. El error final puede desviar kilómetros un misil, hacer una dosis
de medicamento letal o provocar que un puente o un edificio colapse. No
hablemos de cuestiones financieras o de presupuestos.
De hecho, algunos opinamos que, si un ingeniero comete uno
de estos fallos, no simplificar antes de calcular, debiera incapacitársele para
el ejercicio de la profesión de forma total e irreversible. Los políticos son
otra cosa, sabemos desde la DANA lo qué pasa con ellos.
En muchos países, entre ellos España es posiblemente el que
más, no tienen en cuenta cosas así y no legislan, dando paso sin cautelas a
todas las tecnologías basadas o gobernadas por IA. De hecho, estoy convencido
que será una excepción el gobernante o legislador que sepa el sentido concreto
de la expresión punto flotante, empezando por la Secretaria de Estado que
pomposamente se llama de Inteligencia Artificial. Y, si no, que lo diga ella,
que es de aquí y la conocemos todos.
Pues bien, en base a los considerandos de dicha orden
ejecutiva me atrevo a decir que el uso inadecuado o ignorante o su no
prevención puede conllevar resultados peores que los de una dana, mucho peores,
en poblaciones más extensas y a más largo plazo.
No digan que no están avisados.
Incidencias de la expresión "punto-flotante" en la
orden ejecutiva:
(m) El término “operación de punto flotante” significa
cualquier operación o asignación matemática que involucra números de punto
flotante, que son un subconjunto de los números reales típicamente
representados en computadoras por un entero de precisión fija escalado por un
exponente entero de base fija.
(i) cualquier modelo que haya sido entrenado utilizando una
cantidad de potencia de cálculo superior a 10^26 operaciones de números enteros
o de punto flotante, o que utilice principalmente datos de secuencias
biológicas y que utilice una cantidad de potencia de cálculo superior a 10^23
operaciones de números enteros o de punto flotante; y
(ii) cualquier clúster informático que tenga un conjunto de
máquinas ubicadas físicamente en un solo centro de datos, conectadas
transitivamente por redes de centros de datos de más de 100 Gbit/s, y que
tengan una capacidad informática máxima teórica de 10^20 operaciones enteras o
de punto flotante por segundo para entrenar IA.
Hasta que el Secretario tome esa determinación, se
considerará que un modelo tiene capacidades potenciales que podrían utilizarse
en actividades maliciosas habilitadas por medios cibernéticos si requiere una
cantidad de potencia informática superior a 10^26 operaciones de números
enteros o de punto flotante y se entrena en un clúster informático que tiene un
conjunto de máquinas ubicadas físicamente en un solo centro de datos,
conectadas de manera transitiva por redes de centros de datos de más de 100 Gbit/s,
y que tiene una capacidad informática máxima teórica de 10 20 operaciones de
números enteros o de punto flotante por segundo para entrenar a la IA.
Temas #InteligenciaArtificial #Riesgos2025
2. LA EDICIÓN CIENTÍFICA DEPREDADORA E HÍBRIDA.
Fuente: Research
Information
“Las revistas y los editores
depredadores son entidades que priorizan el interés propio a expensas de la
investigación y del conocimiento y se caracterizan por dar información falsa o
engañosa, sin importarles desviarse de las buenas prácticas editoriales y de
publicación, por falta de transparencia y/o por el uso de prácticas de
reclutamiento de autores y de editores agresivas e indiscriminadas”
Las editoriales y las revistas híbridas no se pueden
considerar depredadoras, nominal y formalmente cumplen o tienden a cumplir los
estándares de calidad de la edición. Pero se quedan en el límite de lo legal y
utilizan las fisuras que esta legalidad les proporciona para perseguir el
máximo beneficio económico, por las editoriales, y de impacto y citación por lo
autores que, de esta forma, escalan puestos en los índices y en los cuartiles.
De esta manera se impulsa la revisión rápida con serias dudas de si realmente
es una revisión de pares y se editan monográficos masivamente utilizando, a
fuerza de pagar dinero y prebendas, a editores invitados que atraen a autores
de su entorno.
Esa es la edición híbrida de la cual el principal exponente
es MDPI.
MDPI está sujeta a multitud de casos e investigaciones sobre
mala práctica editorial, nefarous numbers, edición depredadora e híbrida. Se
pone como ejemplo de editorial que pone el beneficio a toda costa por delante,
incluso de la verdad científica. Numerosos artículos han sido retractados.
Esto no lo digo gratuitamente, pueden ver el artículo
de Crosetto que creó época y a partir del cual se han producido muchos
otros.
Sin embargo la edición híbrida como MDPI goza de cierto
prestigio entre investigadores que la ven como un camino rápido y seguro para
prosperar en su carrera, incluso, como en este caso, pueden obtener el favor de
"más
de 100 universidades e instituciones de investigación alemanas que han firmado
un acuerdo nacional con MDPI. El acuerdo de publicación negociado por ZB
MED entrará en vigor el 1 de enero de 2025 y tendrá vigencia hasta finales de
2026. La adhesión al consorcio aún es posible hasta principios de 2025. Las
partes están "satisfechas por el alto nivel de interés que este acuerdo ya
ha suscitado, lo que refleja la fuerte demanda de soluciones de publicación de
acceso abierto accesibles y rentables entre las instituciones de investigación
alemanas"."
3. EL ESTALLIDO DE LA BURBUJA DE LA IA GENERATIVA.
Fuente: The Economist. Article "Will
the bubble burst for AI in 2025, or will it start to deliver?"
El artículo de The Economist "Will
the bubble burst for AI in 2025, or will it start to deliver?" nos
pone en esa encrucijada
"la mayoría de las empresas aún no están seguras de lo
que la tecnología puede o no puede hacer, o de cuál es la mejor manera de
utilizarla. En toda la economía, solo el 5% de las empresas estadounidenses
dicen que están utilizando IA en sus productos y servicios. Pocas empresas
emergentes de IA están obteniendo ganancias. Y las limitaciones de energía y
datos para la creación de modelos de IA son cada vez más dolorosas. La
disparidad entre el entusiasmo de los inversores y la realidad empresarial parece
insostenible, lo que significa que 2025 se perfila como un año decisivo. La
carrera para hacer que la IA sea más eficiente y más útil, antes de que los
inversores pierdan su entusiasmo, está en marcha
....
El entrenamiento de modelos grandes requiere enormes
cantidades de energía. La electricidad utilizada para entrenar GPT- 4, el gran
modelo de lenguaje que sustenta Chat GPT , podría haber abastecido a 5.000
hogares estadounidenses durante un año; la cifra equivalente para GPT- 3, su
predecesor, fue de 100. Por lo tanto, desarrollar modelos cada vez más grandes
y veloces requiere bolsillos cada vez más profundos. Según algunas
estimaciones, entrenar la próxima generación de modelos podría costar 1.000 millones
de dólares; y cuanto más grandes sean, más aumentará el costo de consultarlos
(lo que se conoce como “inferencia”). Mientras tanto, se avecina una escasez de
datos de entrenamiento. Según una estimación, el stock de datos textuales de
alta calidad en Internet se habrá agotado en 2028.
Otras [empresas] están soñando con formas de aprovechar
nuevas fuentes de datos de alta calidad, como libros de texto, o generar datos
sintéticos para su uso en la formación [recuerdo precisamente el último
artículo de David Wiley en ese sentido]
(...) gran parte del uso de la IA se realiza en secreto, ya
que los trabajadores la utilizan para agilizar tareas como reescribir textos o
generar informes. Los empleados pueden preocuparse de que si admiten que
utilizan la IA para hacer las cosas más rápido, los jefes les darán más trabajo
o lo tomarán como una señal de que se necesitan menos trabajadores. Esto, a su
vez, sugiere que la adopción de la IA es tanto un desafío de gestión como
tecnológico. Para aprovechar al máximo la tecnología, los jefes deben crear un
entorno que incentive la apertura y la experimentación, en lugar del secretismo
y la sospecha. La carrera de la IA , por tanto, adoptará muchas formas en 2025.
Sin embargo, el punto en el que los inversores pierden el valor suele ser
cuando las nuevas tecnologías empiezan a ganar terreno sin hacer mucho ruido.
¿Estallará la burbuja o la tecnología empezará a dar resultados?"
En todo caso, las demandas son cada vez más grandes y en
correspondencia el nivel de problemas que resuelve de forma práctica y
satisfactoria es cada vez menor. Ya lo hemos visto en algunos casos en el
terreno que nos toca movernos.
¿Cómo se resolverá esa tensión? En Los próximos meses lo
veremos. La cuestión es que si la BURBUJA estalla, cosa que no deseamos, cómo
quedará el prestigio de todos aquellos y todas aquellas parafernalias
conceptuales que se han montado en torno a ella.
#InteligenciaArtificial #IA #burbuja
4. LAS AMENAZAS HÍBRIDAS
Dicho así a nadie llama la atención. Pero veámoslo de otra
forma. Hoy día nadie duda de la influencia que tiene Puigdemont en la politica
de España, en su economía y en cómo van las cosas en el resto del país, no sólo
en Cataluña.
Tanto es así que, siendo un prófugo de la justicia, fuerza
que sea el presidente de gobierno quien vaya a verlo Waterloo, según, sin
ningún rubor, ha anunciado éste coincidiendo con su discurso de Navidad. Pues
bien, Puigdemont es el máximo agnte de la politica híbrida de Rusia en España,
según se detalla documentadamente en el libro que más adelante recomiendo, y el
procés fue una de las cuatro victorias estratégicas, segun se demuestra con
este grado de influencia en niuestro pais, que ha obtenido Rusia con las
estrategias y las operativas puestas en marcha con motivo de las elecciones de
2016 en EE UU, el Brexit en Reino Unido, la primera guerra de Ucrania y el
procés en España.
Pero lo más importantre es el potencial que en muy distintas
áreas poseen estas estartegias en multitud de campos y de lugares, en ámbitos
globales, regionales y locales. Y sobre todo la parte del iceberg que no
conocemos, y que son los llamados grupos estratégicos, formas de poder no
visibles que son operativos vas allá de las estructuras de poder clásicas y
superando las brechas de conflictos tradicionaes como son las geopolíticas, las
nacionales o las de clase. Esto lo podemos ver desarrollado en la segunda parte
del libro La
Sociedad Postindustrial del Conocimiento: III Edición y de forma más
sintética en el blog RED de Hypotheses
y en Linkedin.
Pero la cuestión principal, las amenazas que pueden cambiar
drásticamente la marcha de las cosas de forma más dramática incluso que lo
hacían las guerras convencionales, porque en última instancia las contienen a
ellas, son las amenazas híbridas.
Las amenazas híbridas se han definido como una mezcla de
actividad coercitiva y subversiva, métodos convencionales y no convencionales,
que pueden ser utilizados de manera coordinada para lograr objetivos
específicos mientras se mantiene por debajo del umbral de una guerra
formalmente declarada, estas actividades cobran especial relevancia por los
factores de la sociedad digital que aumentan su eficacia hasta llegar a que se
perciba como uno de los principales riesgos que actualmente enfrentamos. Uno de
esos factores ha sido la realidad líquida y la falta de compromiso que se
manifiesta en cada vez más amplios sectores, no sólo de jóvenes, conocidos como
postpúblicos. Tanto la realidad como la modernidad líquida—junto con una falsa
sensación de personalización y flexibilidad— conllevan, básicamente en la
sociedad occidental y liberal, una falta de compromiso y un cambio en la forma
de pensar y elaborar el conocimiento o de representar la realidad. En este
libro abordamos este cambio y sus implicaciones sociológicas. Veremos que
aparecen, como resultado, formas de control mental —conocido como control
reflexivo—, que constituye el punto clave dentro de las estrategias de las
amenazas híbridas.
En relación íntima con ello aplicaremos y deduciremos esos
conceptos y prácticas sobre lo que ha sucedido estos años en Ucrania y su
guerra con Rusia, el Reino Unido y el Brexit, EE. UU. y Trump, Cataluña y el
procés, Irán, el asunto Israel/Hamás y el antisemitismo de nuevo cuño. Veremos
que, junto a la amenaza híbrida y la teoría estratégica, han emergido conceptos
y prácticas nuevas, como el control reflexivo y su correlato el troleo pautado
con medios de comunicación y élites gubernamentales y partidistas, los tropos y
los tropos recurrentes, estructurados en narrativas adecuadas a fines
estratégicos. Hablamos de una realidad nueva, donde la naturaleza y la práctica
democrática son otras —cuando no se cuestionan explícitamente—.Pero sobre todo
este libro quiere poner el foco, al elegir este tema, el de la amenaza híbrida,
sobre cualquier otro de los muchos en los que se manifiesta la sociedad del
conocimiento, es por la importante transcendencia en cómo van a ser los
conflictos que las sociedades van a afrontar en los tiempos próximos o los
están afrontando ya. Y cuáles van a ser nuestras condiciones de vida y por ende
sobre qué ejes oscilará nuestra felicidad, así como la de nuestros hijos.
"Todo ello lo pueden encontrar documentado, justificado
y explicado en detalle en los libros:
Amenazas híbridas. El nuevo tipo de guerra de la Sociedad
Digital.https://www.amazon.es/dp/B0DL6BP5HT/
, de caràcter divulgativo y en
Amenazas híbridas: Cómo crear el caos en línea https://www.amazon.es/Amenazas-h%C3%ADbridas-C%C3%B3mo-crear-l%C3%ADnea-ebook/dp/B0DJRZRJQR
como manual para estudios especializados
5. QUE LA PROLIFERACION DE INVESTIGACIONES FALSAS O
RETRACTADAS GENERADAS POR LA INTELIGENCIA ARTIFICIAL GENERATIVA ASFIXIE LA
CIENCIA.
En 2022 una investigación de
Catherine Gao y otros, en la Universidad Northwestern en Chicago, publicada
primero como preprint en bioRxiv[1],
y en 2023 por NPJ Digital Medicine de Nature[2],
puso de relieve que es imposible discernir con certeza y de forma concluyente
entre un resumen de un artículo científico si está escrito por ChatGPT o por un
autor humano.
La comunicación de la investigación está publicada con el
título Comparing
scientific abstracts generated by ChatGPT to real abstracts with detectors and
blinded human reviewers
Con ese fin usaron ChatGPT para generar resúmenes de
trabajos de investigación artificiales, para probar si los científicos pueden
detectarlos.
Pidieron a ChatGPT que escribiera 50 resúmenes de
investigación médica basados en
una selección publicada en JAMA , The
New England Journal of Medicine , The BMJ , The
Lancet y Nature Medicine
Los compararon con los resúmenes originales con un detector
de plagio y un detector de salida de IA, y con un grupo de investigadores
médicos, para que detectaran los resúmenes artificiales.
El resultado sobre los resúmenes generados por ChatGPT fue:
El verificador de plagio convencional sobre la originalidad
fue del 100 %, lo que indica que no se detectó plagio con verificadores tipo
Turnitin, etc.
El detector de salida de IA detectó el 66 % de los resúmenes
generados.
Los revisores humanos identificaron correctamente sólo el 68
% de los resúmenes generados y el 86% de los resúmenes genuinos.
Identificaron incorrectamente el 32 % de los resúmenes
generados como reales y el 14 % de los resúmenes genuinos como generados. Todo
ello muy elocuente.
Muy
recientemente, y eso es lo importante, la lista y el boletín Retraction Watch –
Crossref, que se dedica a analizar, detectar y publicar fraudes de todo tipo
con papers, revistas y editoriales científicas ha
publicado un artículo con una lista de ellos hechos con ChatGPT y
publicados por las más prestigiosas revistas. Obviamente, como no se puede,
como hemos visto, distinguir en general lo que es escrito por IA generativa o
por humanos, se tiene que basar en dos métodos contundentes o confiables. Uno
es el de la evidencia que da el descuido del autor cuando por ejemplo olvida
expresiones típicas de las respuestas de ChatGPT, que curiosamente han pasado
los filtros editoriales y la revisión de pares, y otro es el método propuesto,
y actualmente validado, por Guillaume Cabanac[3].
Con ello han elaborado una lista de 94 artículos al día de
la fecha.
Si no pudiéndose diferenciar en general los hechos por
ChatGPT de los hechos por humanos se detectan estos ¿cuántos habrá en total?
Sugerimos una investigación, que sería muy interesante y sin
duda tendría un gran impacto y citación. Se trataría de utilizar el Teorema de
Bayes para, sabiendo a partir de un experimento controlado de n artículos
generados por ChatGPT en un total de m artículos cuánto se detectan por estos
métodos por revisores que no lo saben, determinar en un caso general a partir
del número de casos detectados por estos métodos cuántos habría en total. Es
decir, cuántos artículos habría hechos por ChatGPT en total a partir de los que Retraction Watch u otra agencia
similar detectase por el método Guillaume Cabanac o similar.
Seguro que el resultado sería sorprendente y apabullante… Y
esto no ha hecho más que empezar.
Por tanto, la amenaza es clara: las obras realmente válidas
quedarían perdidas o de distinción clara con los métodos habituales en un
marasmo de obras fraudulentas. Supondría la asfixia de la edición científica,
al menos el riesgo que eso pase.
Cuando eso suceda la incapacidad de distinguir los
resultados de investigaciones científicas de los que no lo son atacará por la
base el sistema que hemos tenido durante los últimos siglos, careceremos de
resultados fiables al no tener una forma clara de distinguirlos. La producción
científica caerá y con ello todo lo demás: la producción y la fiabilidad de
fármacos y procedimientos médico-quirurgicos, de las patentes de ingeniería
(electrónica, informática, de maquinarias, automóviles, procedimientos industriales
los métodos financieros, etc Bien por un efecto directo, al carecer de métodos
válidos, bien por un efecto diferido: Una investigación puede ser formalmente
buena pero puede basarse en otras fraudulentas o falsas.
Y cuando empiece todo a manifestarse será tarde.
Enlaces
https://retractionwatch.com/papers-and-peer-reviews-with-evidence-of-chatgpt-writing/
https://www.nature.com/articles/s41746-023-00819-6#citeas
https://www.nature.com/articles/s41746-023-00819-6
https://scholar.google.es/scholar?oi=bibs&hl=es&cites=3875208194200094199&as_sdt=5
https://scholar.google.es/citations?hl=es&user=IwClOEIAAAAJ&view_op=list_works&sortby=pubdate
[1] Gao, C. A., Howard, F. M., Markov,
N. S., Dyer, E. C., Ramesh, S., Luo, Y., & Pearson, A. T. (2022). Comparing
scientific abstracts generated by ChatGPT to original abstracts using an
artificial intelligence output detector, plagiarism detector, and blinded human
reviewers. bioRxiv 2022;: 2022.12. 23.521610. https://www.biorxiv.org/content/10.1101/2022.12.23.521610v1.abstract
[2] Gao, CA, Howard, FM, Markov,
NS et al. Comparación de resúmenes científicos
generados por ChatGPT con resúmenes reales con detectores y revisores humanos
ciegos. npj Digit. Med. 6 , 75 (2023).
https://doi.org/10.1038/s41746-023-00819-6
https://www.nature.com/articles/s41746-023-00819-6
[3] Cabanac ha
estado publicando los resultados en PubPeer de dichos artículos que RW actualizará
periódicamente. También recomiendan Academ-AI
de Alex Glynn .
He estado investigando sobre cursos en línea en esta web https://cursos2025.com/ y hay tantas opciones disponibles, desde habilidades técnicas hasta desarrollo personal.
ResponderEliminar