¿Cómo podría afectar la IA a las operaciones de influencia?

Cuando los investigadores evalúan las operaciones de influencia, consideran laActores, comportamientos y contenidos.. La disponibilidad generalizada de tecnología impulsada por modelos lingüísticos tiene el potencial de afectar las tres facetas:

1. actores: Los modelos lingüísticos podrían reducir el costo de ejecutar operaciones de influencia, colocándolas al alcance de nuevos actores y tipos de actores. Del mismo modo, los propagandistas contratados que automatizan la producción de textos pueden obtener nuevas ventajas competitivas.

2. Comportamiento: Las operaciones de influencia con modelos lingüísticos serán más fáciles de escalar y las tácticas que actualmente son costosas (por ejemplo, generar contenido personalizado) pueden volverse más baratas. Los modelos de lenguaje también pueden permitir que surjan nuevas tácticas, como la generación de contenido en tiempo real en chatbots.

3. Contenido: Las herramientas de creación de texto impulsadas por modelos lingüísticos pueden generar mensajes más impactantes o persuasivos en comparación con los propagandistas, especialmente aquellos que carecen del conocimiento lingüístico o cultural necesario de su objetivo. También pueden hacer que las operaciones de influencia sean menos detectables, ya que crean repetidamente contenido nuevo sin necesidad de recurrir a copiar y pegar y otros comportamientos notables que ahorran tiempo.

Nuestra conclusión fundamental es que los modelos lingüísticos serán útiles para los propagandistas y probablemente transformarán las operaciones de influencia en línea. Incluso si los modelos más avanzados se mantienen privados o se controlan a través del acceso a la interfaz de programación de aplicaciones (API), los propagandistas probablemente gravitarán hacia alternativas de código abierto y los estados nacionales pueden invertir en la tecnología.