Otro aspecto del auge de la IA: averiguar de qué está hecha la IA

Otro aspecto del auge de la IA: averiguar de qué está hecha la IA

Andrei Doronchev se horrorizó el año pasado cuando vio un video en las redes sociales que parecía mostrar al presidente de Ucrania rindiéndose ante Rusia.

El video fue rápidamente desacreditado como una falsificación profunda creada artificialmente, pero para Doronchev fue un presagio de ansiedad. Este año, sus temores se acercaron a la realidad, ya que las empresas comenzaron a competir para avanzar y lanzar tecnología de IA a pesar del caos que podría causar.

La IA generativa ahora está disponible para cualquiera y es cada vez más capaz de engañar a las personas con textos, voz, imágenes y videos que parecen haber sido concebidos y capturados por humanos. La amenaza de la credulidad social ha generado preocupaciones sobre la desinformación, la pérdida de empleos, la discriminación, la privacidad y la distopía generalizada.

Para empresarios como el Sr. Doronchev, también se ha convertido en una oportunidad de negocio. Más de una docena de empresas ahora ofrecen herramientas para determinar si algo se ha creado con IA, con nombres como Sensity AI (detección de falsificación profunda), Fictitious.AI (detección de plagio) y Originality.AI (también plagio).

El Sr. Doronchev, nativo de Rusia, fundó Optic en San Francisco para ayudar a identificar materiales sintéticos o engañosos, para ser, en sus palabras, “una máquina de rayos X de aeropuerto para contenido digital”.

En marzo, presentó un sitio web donde los usuarios pueden revisar las fotos para ver si fueron tomadas con fotos reales o con inteligencia artificial. Funciona en otros servicios de verificación de video y audio.

“La originalidad del contenido se convertirá en un problema importante para la comunidad en su conjunto”, dijo Doronchev, quien invirtió en una aplicación de intercambio de rostros llamada Reface. Estamos entrando en la era de las falsificaciones baratas”. Dijo que dado que producir contenido falso no cuesta mucho, se puede hacer a gran escala.

Se espera que el mercado general de IA generativa supere los $ 109 mil millones para 2030, creciendo a una tasa anual del 35,6 por ciento hasta entonces, según la firma de investigación de mercado Grand View Research. Las empresas enfocadas en el descubrimiento de tecnología son una parte creciente de la industria.

Meses después de que fuera creado por un estudiante de Princeton, GPTZero afirma que más de un millón de personas han usado su software para buscar texto generado por computadora. Reality Defender fue una de las 414 empresas seleccionadas entre 17 000 solicitudes para ser financiadas por el acelerador de startups Y Combinator este invierno.

El año pasado, CopyLeaks recaudó 7,75 millones de dólares en parte para expandir sus servicios antiplagio a escuelas y universidades para detectar IA en el trabajo de los estudiantes. Sentinel, cuyos fundadores se especializaron en seguridad cibernética y guerra de información para la Marina Real británica y la OTAN, cerró una ronda inicial de 1,5 millones de dólares en 2020 que fue respaldada en parte por uno de los ingenieros fundadores de Skype para ayudar a proteger las democracias de falsificaciones profundas y otro material malicioso. medios sintéticos.

Las grandes empresas de tecnología también se están involucrando: FakeCatcher de Intel afirma que puede identificar videos falsos profundos con un 96 por ciento de precisión, en parte analizando píxeles en busca de signos sutiles de flujo sanguíneo en rostros humanos.

Dentro del gobierno federal, la Agencia de Proyectos de Investigación Avanzada de Defensa planea gastar casi $30 millones este año para ejecutar análisis forense semántico, un programa que desarrolla algoritmos para detectar falsificaciones profundas y determinar si son maliciosas.

Incluso OpenAI, que impulsó el auge de la IA cuando lanzó su herramienta ChatGPT a fines del año pasado, está trabajando en servicios de detección. La empresa con sede en San Francisco lanzó por primera vez una herramienta gratuita en enero para ayudar a distinguir entre texto compuesto por humanos y texto escrito por IA.

OpenAI enfatizó que si bien la herramienta era una mejora con respecto a las iteraciones anteriores, todavía “no era del todo confiable”. La herramienta identificó correctamente el 26 por ciento del texto generado artificialmente, pero identificó incorrectamente el 9 por ciento del texto de los humanos como generado por computadora.

OpenAI tiene una falla común en el software de detección: adolece de texto corto y escritura que no está en inglés. En entornos educativos, las herramientas de detección de plagio como TurnItIn han sido acusadas de etiquetar incorrectamente artículos escritos por estudiantes como generados por chatbots.

Los detectores están inherentemente detrás de la tecnología generativa que intenta detectarlos. Para cuando el sistema de defensa sea capaz de reconocer la acción de un nuevo chatbot o generador de imágenes, como Google Bard o Midjourney, los desarrolladores ya han comenzado con una nueva iteración que puede evadir esa defensa. La situación se ha descrito como una carrera armamentista o una relación de virus a virus en la que uno engendra al otro una y otra vez.

“Cuando Midjourney lanza Midjourney 5, mi pistoletazo de salida se dispara y empiezo a trabajar para ponerme al día, y mientras lo hago, ellos están trabajando en Midjourney 6”, dijo Hany Farid, profesor de informática en la universidad. De California, Berkeley, se especializa en análisis forense digital y también está involucrado en la industria de detección de IA. “Es un juego intrínsecamente contradictorio en el que, mientras trabajo en el detector, alguien construye una trampa para ratones mejor, un barco mejor”.

Joshua Tucker, profesor de política en la Universidad de Nueva York y codirector del Centro de Medios Sociales y Política, dijo que a pesar de la constante puesta al día, muchas empresas han visto la demanda de descubrimiento de IA por parte de escuelas y educadores. Se preguntó si surgiría un mercado similar antes de las elecciones de 2024.

“¿Vamos a ver una especie de ala paralela de estas empresas desarrollarse para ayudar a proteger a los candidatos políticos para que puedan saber cuándo están siendo atacados por este tipo de cosas”, dijo.

Los expertos dijeron que los videos generados sintéticamente todavía eran algo difíciles y fáciles de identificar, pero que la reproducción de audio y las imágenes estaban muy avanzadas. Separar lo real de lo falso requerirá tácticas forenses digitales, como búsquedas inversas de imágenes y rastreo de direcciones IP.

El software de detección disponible se está probando con ejemplos que son “muy diferentes de volverse locos, donde las imágenes se modificaron, recortaron, redujeron el tamaño, se convirtieron en íconos y subtítulos y Dios sabe qué más les sucedió”, dijo el Sr. Farid.

“Lavar el contenido dificulta esta tarea”, agregó.

Content Originality Initiative, un consorcio de 1000 empresas y organizaciones, es un grupo que ha intentado hacer visible la tecnología generativa desde el principio. (Está dirigido por Adobe, con miembros como The New York Times y jugadores de IA como Stability AI) En lugar de ensamblar el activo de una imagen o video más adelante en su ciclo de vida, el grupo está tratando de establecer estándares que se remontan al trabajo digital. en la creación

Adobe dijo la semana pasada que su tecnología generativa Firefly se integrará en Google Bard, donde agregará “etiquetas de alimentación” al contenido que produce, incluida la historia en la que se creó la imagen y las herramientas digitales utilizadas para crearla.

Los desafíos que plantea la IA apenas comienzan, dijo Jeff Sakasegawa, ingeniero de confianza y seguridad de Persona, una empresa que ayuda a verificar la identidad del consumidor.

“La ola genera impulso”, dijo. “Se dirige hacia la playa. No creo que esté roto todavía”.

A1L

A1O

https://saga.so/b1484ccc-c0a3-4d88-a518-0696a2534bfb

https://saga.so/e94f6d51-69a5-4e38-a088-48eab2d76d72

https://saga.so/cb053413-d946-40fd-8bb7-a1a01765b4a4

https://saga.so/s/6hRavvXV7eY-IcqZKfyE/d7f8f29f-5194-4c99-9749-b6de8bff1220

https://saga.so/c870ad73-5f4e-49a3-99ca-b644368319d0

https://saga.so/bbdadec6-f62a-48cc-8a52-ad82b76a9bd5

https://saga.so/aa6462a0-83b5-419c-97a8-085056c7c192

https://saga.so/d0dbb959-379e-4d2d-a014-63da096af6fa

https://soundcloud.com/japakkothenbeutellkfo-a5-8-76/goodbye-julia-2023

https://soundcloud.com/japakkothenbeutellkfo-a5-8-76/goodbye-julia-2024

https://soundcloud.com/japakkothenbeutellkfo-a5-8-76/goodbye-julia2022-hd-online

https://soundcloud.com/scharbroughdanicadul-v2-832/the-marvels-2023-web-dl-1080p

https://soundcloud.com/scharbroughdanicadul-v2-832/the-marvels-3-2023

https://soundcloud.com/scharbroughdanicadul-v2-832/the-marvels-32023-hd

https://soundcloud.com/five-nights-at-freddys-742195175/five-nights-at-freddys-2023-web-dl-1080p

https://soundcloud.com/five-nights-at-freddys-742195175/five-nights-at-freddys-2023

https://m.facebook.com/media/set/?set=a.357056250131785&type=3

https://m.facebook.com/media/set/?set=a.357056670131743&type=3

https://m.facebook.com/media/set/?set=a.357056970131713&type=3

https://m.facebook.com/media/set/?set=a.362448216245160&type=3

https://m.facebook.com/media/set/?set=a.362447592911889&type=3

https://colab.research.google.com/drive/1xcHF_H6Jwoy3YqztbDo7jXr1tMda3WFc?usp=sharing

https://colab.research.google.com/drive/1aMnab-rTxZ-FPXY1HeCxawJsV2G_x7Ho?usp=sharing

https://colab.research.google.com/drive/1UMjYea3LhNQN0D_-1w0IxYeO7cTVsEYe?usp=sharing

https://colab.research.google.com/drive/1Qy2ZshHqtZnoFhw3QiifEaHAZ3mac16G?usp=sharing

https://colab.research.google.com/drive/1Dt0d5Y6yX4SyXh6yAfgEXBjMVL3DSc4c?usp=sharing

https://baskadia.com/post/nd3b

https://baskadia.com/post/nd50

https://baskadia.com/post/nd87

https://soundcloud.com/doy-dognex/2023-1080p

https://soundcloud.com/doy-dognex/the-hunger-games-the-ballad-of-songbirds-and-snakes-2023-hd1080p

https://soundcloud.com/doy-dognex/the-hunger-games-the-ballad-of-songbirds-and-snakes-2023

https://lookerstudio.google.com/reporting/2e2351f2-893d-4bdc-bf09-6a160765de32

https://lookerstudio.google.com/reporting/86008639-a1f5-4759-81f4-d999c0f5af03

https://player.soundon.fm/p/7e7fc1e5-2e41-49a9-a740-4df35465ea68

https://player.soundon.fm/p/1eb259f5-810d-4a6f-95c4-a72e2e4642e2

https://player.soundon.fm/p/acb7930b-0da1-42fe-bfe5-e1bc36db5b17

https://player.soundon.fm/p/b0b39953-1551-4e21-84a4-8bfd1dd8f2e8

A1B

孤注一掷-線上看 完整版『2023』~4K線上看| 小鴨影音HD~1080p

【孤注一掷】- 線上看小鴨完整版 高清No More Bets」在线观看和下载HD~1080pL

【孤注一掷】-線上看-2023-完整版-HD~1080p

孤注一掷-線上看【2023】HD – 在線觀看 [HK-No More Bets] 線上看~1080p

看《孤注一掷》-線上看 完整版 – 在线观看[No More Bets]电影高清[2023]~4K

【孤注一掷】-線上看【2023】|HD~1080p 在线观看和下载~4K

粽邪3:鬼門開-線上看-2023-完整版HD~1080p

粽邪3:鬼門開【2023】線上看| 在线观看和下载~4K小鴨影音| HD-1080p

【粽邪3:鬼門開】- 線上看小鴨完整版 高清The Rope Curse 3」在线观看和下载HD~1080p

粽邪3:鬼門開-線上看【2023】HD – 在線觀看 [HK-The Rope Curse 3] 線上看~1080p

看《粽邪3:鬼門開》-線上看 完整版 – 在线观看[The Rope Curse 3]电影高清[2023]~4K

【粽邪3:鬼門開】-線上看【2023】|HD~1080p 在线观看和下载~4K

《私刑教育3》-線上看-2023-完整版HD~1080p

私刑教育3線上看【2023】| 在线观看和下载~4K小鴨影音| HD-1080p

《私刑教育3》線上看完整版HD~1080p – 在线观看【The Equalizer 3 2023】电影高清~4K

【私刑教育3】- 線上看小鴨完整版 高清The Equalizer 3」在线观看和下载HD~1080p

【伸冤人3】-線上看【2023】|HD~1080p 在线观看和下载~4K

伸冤人3-線上看 (2023) 完整版The Equalizer 3 完整版[4K/HD~1080p] 在線免費

伸冤人3-線上看 「完整版」[2023]高清电影HD~[1080P]完整的电影

【伸冤人3】- 線上看小鴨完整版 高清【The Equalizer 3 2023】在线观看和下载HD~1080p

¡REPELÍSPLUS!▷VER—The Equalizer 3 (2023) Película Completa

[Cuevana-3] Ver The Equalizer 3 (2023) Película Completa

¡VER!!—The Equalizer 3 Película Completa Castellano en Español Latino Gratis

[Cuevana-4] Ver—The Equalizer 3 (2023) Película Completa Online Gratis en Español latino

¡Flix—Ver The Equalizer 3 `El justiciero 3` (2023) Película Completa Online Español y latino

A1Y

A1E

A1P

A1R

↑PelisPlus-VER↓ Fast & Furious X Película completa-español en línea gratis

[REPELIS verFast X (Fast & Furious 10) PELÍCULA COMPLETA Español

[Cuevana 4]!* Ver Fast & Furious 10 (Online) Película Completa 2023 en Español y Latino

✔Fast X (Fast & Furious 10) (2023)🎬 PELICULA COMPLETA➤ ESPAÑOL GRATIS

VOIR ▷ Fast X Film Complet En Francais HD [Regarder]

Regarder Fast X Film Complet En Francais [En HD Regarder]

!VOIR,!! — Fast & Furious X en Streaming-VF en Français, VOSTFR COMPLET

FILM ▷ Fast and Furious 10 en Streaming-VF en Français

ASSISTIR Velocidade Furiosa X 2023 FILME COMPLETO

Assistir Velocidade Furiosa X (2023) Filme Completo Online

!Assistir Filme Velozes e Furiosos 10 Completo HD 2023 Dublado Online

Assistir Velocidade Furiosa X 2023 Online Gratis (Filme HD)

[ดู.หนัง] เงือกน้อยผจญภัย (THE LITTLE MERMAID – 2023) เต็มเรื่อง HD พากย์ไทย ดูหนังใหม่ 1080I

ดูหนัง เงือกน้อยผจญภัย (2023) เต็มเรื่อง HD พากย์ไทย THAI HD Quality

[ดูหนัง.THAI] เงือกน้อยผจญภัย (2023) เต็มเรื่อง HD พากย์ไทย ฟรี on ยูทูบ

รู้ไว้ก่อนดู The Little Mermaid (2023) เงือกน้อยผจญภัย เต็ม เรื่อง

PELISPLUS !MEGA La Sirenita Pelicula Completa (HD) Espanol y Latino

VER_La Sirenita (2023) película completa en español latino

Ver La Sirenita | PELICULA COMPLETA LATINO

VER_La Sirenita (2023) película completa en español latino

REPELIS] Ver Transformers: El despertar de las bestias (2023) Película Online

[¡PELISPLUS!]*—Ver Transformers El despertar de las bestias [2023] Pelicula Completa Online en Español HD

Mega!-ver Transformers: El despertar de las bestias (Pelicula) HD online en espanol latino

PElis NUE (4k) ver Transformers: El despertar de las bestias ~Pelicula completa HD

[ดู-ไทย] ทรานส์ฟอร์เมอร์ส: กำเนิดจักรกลอสูร [TRANSFORMERS: RISE OF THE BEASTS-2023] – ดูหนังออนไลน์ (1080P) พากย์ไทย เต็มเรื่อง

ดู-หนัง!*] Transformers 2023 (ทรานส์ฟอร์เมอร์ส : กำเนิดจักรกลอสูร) ดูหนังออนไลน์ HD พากย์ไทย 1080p

ดูหนัง ทรานส์ฟอร์เมอร์ส: กำเนิดจักรกลอสูร (Transformers: Rise Of The Beasts) ออนไลน์ฟรี HD พากย์ไทย THAI!

[ดู.หนัง] ทรานส์ฟอร์เมอร์ส: กำเนิดจักรกลอสูร (2023) หนังเต็ม HD พากย์ไทย [Transformers: Rise of the Beasts]

Assistir Transformers: Rise of the Beasts [2023] Filme Completo Dublado Online Gratis em Portuguese

[[*Assistir]] Transformers: Rise of the Beasts Filme completo [ 2023 ] Dublado Portugues Grátis Online

Assistir Transformers O Despertar das Feras filme completo Dublado online Legendado

ASSISTIR! Transformers: Rise of the Beasts (2023) Filme Dublado Online Legendado HD Grátis

Transformers : Rise of the Beasts Streaming VF 2023 Regarder Film-Complet HD

!4K-VOIR!!@ — The Beasts en StreamingVF||COMPLET, VOSTFR-Gratuits

[.^WATCH^.] Transformers: Rise of the Beasts (2023) FullMovie Free Online Streaming on 123𝓶𝓸𝓿𝓲𝓮𝓼

[*𝐅𝐈𝐋𝐌𝐒 𝐕𝐎𝐈𝐑*] Transformers: Rise of the Beasts (2023) Français Gratuit et VF Complet

A1G

A1C

A1X

Teh pucuk

A1s