Amenazas de la IA en el sector audiovisual

En este podcast, Walt Zerbe, Sr. Director de Tecnología y Estándares de CEDIA y presentador del podcast de CEDIA, presenta un panel en Integrated Systems Europe (ISE) 2024 con Rich Green, propietario de Rich Green Design, Jeff Sonnnleitner, profesor de seguridad cibernética y experto en la materia, y Giles Sutton, vicepresidente sénior de Desarrollo de Productos y Negocios de CEDIA. VP de Producto y Desarrollo de Negocio de CEDIA. 

Transcripción del podcast

0:01  
Soy CEDIA, soy CEDIA, soy CEDIA, este es el podcast de CEDIA de CEDIA. Hola, y bienvenidos a otro podcast de CEDIA. Soy Walt XRV, Director Senior de Tecnología y Estándares, y su anfitrión para el podcast de CEDIA. Y esta semana, estoy reproduciendo una charla que ocurrió en la feria ISC, que es la feria de sistemas integrados de Europa este año y 2024, en Barcelona, España. La charla se titulaba «Navegar por las amenazas de la IA en la industria de la IA». Fue un debate fascinante. La IA está aquí para quedarse, va a seguir transformándose y afectando a nuestros negocios, a nuestros clientes y a nuestra industria. Así que para ayudarme a hacer esta charla, tengo tres panelistas. El primer panelista es rich green es el propietario de rich green design. El segundo es Jeff Sun Lightner. Él es en general. Así que Jeff ha hecho un montón de cosas diferentes en la industria ahora está semi retirado. Pero Jeff no creo que realmente pueda retirarse porque está realmente en estas cosas. Y se involucra con nosotros en muchas de estas charlas y discusiones. Así que Jeff se unió a nosotros también. Y el último invitado fue Giles Sutton, vicepresidente senior de producto y desarrollo de negocio en CEDIA. Así que sin más preámbulos, vamos a seguir con la discusión.

1:20  
Veamos quién está aquí arriba. Así que soy Waltzer B, Director Senior de Tecnología y Estándares y el anfitrión del podcast CDN. Y a mi lado tengo a mi buen amigo Jeff. Así que

1:30  
Me gustaría que todos dieran su nombre. Díganme su empresa y luego cuéntenme un poco sobre la industria y por qué creen que están aquí. Por qué deberían estar aquí. Digo que estáis aquí porque no sé por qué estoy aquí porque os lo he preguntado.

1:45  
Así que adelante. Mi nombre es Jeff sunliner y soy un instructor universitario jubilado y especializado en el especialista de la red en el ámbito de la ciberseguridad.

1:59  
enseñando por años retirado ahora como adjunto por 24 años.

2:07  
Tocamos todas las industrias.

2:10  
Sí, en realidad V todo lo que I T y lo nombra. Sí. Sí. Gracias, Jeff. Muy bien, verde rico, Palo Alto, California, la cuna de Silicon Valley. Soy un integrador. Hago tanto el trabajo comercial y residencial. Y hago un montón de voluntariado para CEDIA, que estoy muy orgulloso de que me encanta mis cintas y amor CD un compañero que estoy muy orgulloso también. Gracias Rich Giles. Hola a todos. Soy Charles hijo, Vicepresidente Senior de CEDIA, he sido un CD durante cinco años.

2:43  
Pero antes de eso yo era un integrador, integrador de sistemas AV en el Reino Unido 14 años. Así que creo que estoy aquí porque ya he estado usando AI bastante en CEDIA, y he sido parte de algunos otros paneles también. Y veo la oportunidad de que la IA puede traer integradores y así como navegar tal vez algunos de los desafíos con la IA, pero muy emocionado de ser parte de este panel y emocionado de que mi colega aquí se va a dirigir. Así que nos estamos uniendo

3:16  
...contra dos voluntarios. Es broma. Es broma. Muy bien, así que voy a empezar de inmediato con el rico, rico, usted ha estado haciendo un montón de hablar de AI en sus clases. Y muchos de estos que ambos dieron clases durante el show. Y has, básicamente has dicho muchas cosas buenas sobre la IA. Pero quería asegurarme de que nos centramos en el oh, que podríamos necesitar saber sobre el lado AI. Creo personalmente, que nuestra industria no está preparada. Especialmente un integrador puede que ni siquiera haya empezado con la mentalidad de si realmente necesito preocuparme por esto. Siendo un integrador. Así que vamos a empezar muy alto nivel, me gustaría que usted comience alto nivel, así como, ¿por qué me importa? ¿Y necesito preocuparme? ¿Y necesito preocuparme ahora mismo? ¿Cuál es tu opinión al respecto? Bueno, ¿necesito preocuparme? Sí. AI es el juego final. Lo dije ayer para escuchar, pero ya sabes, un montón de gente es como, está bien, AI es chat GPT. O está bien, hay un gran modelo de lenguaje. Entonces, ¿qué significa eso para mí?

4:26  
La IA es la siguiente etapa de la evolución humana, va a haber mucho desarrollo en IA, seguirá mejorando y mejorando y mejorando. Si crees que ahora mismo no es para ti. O si crees que las amenazas de las que oyes hablar en las noticias son todo lo que hay que saber sobre la IA. No es así. Es profundamente útil para que los humanos amplifiquen lo que son y lo que pueden hacer. ¿Se puede utilizar como integrador? Sí, ahora mismo hay que tirarse de cabeza a la parte más profunda de la piscina. No hay

5:00  
ninguna razón para esperar. Sé que el título de la sesión es «Navegar por las amenazas de la IA». ¿Existen realmente amenazas para la industria audiovisual? No tanto. Pero sé que mi colega Jeff tiene una opinión diferente al respecto. Así que mi recomendación es que te metas de lleno en esto. Y si no puedes resolverlo por ti mismo, o si tienes miedo de ello, bueno, entonces encuentra a alguien que no lo tenga. Así que encuentra a alguien que ame esto. Y podría ser una persona joven, podría ser alguien, un jugador, o lo que sea. Pero encuentra a alguien que entienda este espacio. Que sepa lo que es un gran modelo de lenguaje, que sepa cómo usar el chat GPT, y luego empiece a aplicarlo en su empresa. Sabes, Open AI es una compañía muy interesante. Está en San Francisco. Es de donde soy. Y la IA abierta, o el chat GPT cambió el mundo entero en noviembre del año pasado. Pero hicieron algo más este año que puede utilizar ahora mismo en su empresa. Y es una herramienta de muy bajo riesgo y alto beneficio. Y se llaman las llaves GPG. Y las pequeñas claves GPT son como, es como la App Store que Apple creó. Esto es como la App Store para pequeños bits de AI que hacen cosas específicas para usted y su empresa. Solíamos llamarlos interfaces de programación de aplicaciones, API. Sí. La nueva API es la GPT. Puedes escribir una GPT que automatice procesos dentro de tu empresa. Así que hay eficiencias operativas que se pueden ganar con esto. Y puedes escribir pequeños GP T que enlacen subsistemas en el hogar en un sistema de control unificado. Es como el nuevo Crestron. Es muy, muy potente. Así que no veo ninguna razón para dudar. Muy bien, tengo una pregunta. Pero no quiero hacerla todavía. Porque usted dijo Jeff, diría algo que yo tendría un punto de vista diferente sobre es AI una amenaza. Así que tengo que lanzártela, Jeff. ¿La tienes? De acuerdo. Sí. En primer lugar, comparto cada pensamiento y proceso del que Richie acaba de hablar.

7:15  
Pero yo vengo del mundo de ver las cosas de la manera equivocada, de la manera no positiva, de la manera negativa.

7:25  
Al tener más formación en TI, la mayor concentración que escucho o con la que trabajo con los estudiantes es la protección de datos.

7:35  
Y si se trata de su protección interna, su propia contabilidad, cosas por el estilo, pero que, para mí, lo más importante va a ser los datos de sus clientes, ya sea sólo la información que está utilizando desde el punto de vista de facturación, que tiene muy poca información, pero usted todavía está recibiendo cosas que

7:56  
ahora van a ser más fácilmente disponibles todo, desde tarjetas de crédito a las facturas de facturación a la información bancaria. Pero vayamos un paso más allá. Todas estas cosas que usted está integrando donde usted tiene contratos, posiblemente con las empresas que su fabricante, proveedores, ahora usted está comenzando a abrir un abrir un abrir. Y cada uno de estos elementos de sus hechos, cosas como los inicios de sesión y contraseñas. Esa es la cosa que la gente va después, todo lo que necesitan es uno. Una vez que tienen eso y entran en tu sistema.

8:32  
Se pregunta si sólo se limita a una casa o una instalación doméstica o residencial. Pero mucha de la gente de negocios que son residenciales, y su comercial están atados juntos. Así que ahora abres esa puerta también en esa avenida.

8:48  
Los datos son los que componen el gran modelo de lenguaje de recopilación de datos. Así que ya sabes, justo en ese momento para respaldar tu mente. La IA está perfeccionando la recopilación de datos.

9:00  
Y todas estas cosas que salen en el lado oscuro de la web o incluso quién sabe de dónde vienen. Hubo una hace dos semanas llamada «La madre de todas las brechas».

9:13  
Bien, MLB.

9:16  
Increíble. 26 billones.

9:22  
de nombres de usuario y contraseñas fueron accedidos. ¿Qué? LinkedIn, MySpace, grandes invitados, mejor reviso la gente que está ahí, y están compartiendo información. Y no se tu, espero que no hagas cosas como usar la misma contraseña una y otra vez.

9:43  
Se lo dices a la gente Oh, sí, no hay problema, excepto que luego van a casa y empiezan a añadir algo. Yo estaba como, no creo que recuerde esa. Sí, usaré esta otra vez cuando nadie lo sepa. Sí. Eso es muy interesante. Giles, ¿quieres opinar sobre eso? Quiero decir, vives en este

10:00  
fecha que ha que comenzó la privacidad más estrictas?

10:06  
Supongo que vas a decir la política o las leyes? En realidad, creo que en el mundo en este momento, es es mucho más robusto que GD RP, que se inició en absoluto, creo GD RP. Así que sí, ¿cuáles son tus sentimientos sobre la IA como una amenaza? Quiero decir, eso es realmente un gran ángulo. Así que vamos a estar hablando de todo. Habla de datos, vamos a meter a la gente en esto. Así que no pienses que es como, bueno, mi equipo, no se trata sólo de equipos. ¿Cuál es tu opinión sobre esto? Bueno, creo que definitivamente hay algunos técnicos dicen que tipo de amenazas tecnológicas que identificó. Jeff allí. Yo, me siento ya sabes, una de las cosas que me siento como a menudo veo las cosas desde una perspectiva de ventas y marketing, sólo desde el papel que tengo, y después de haber sido un integrador y un negocio de integración a mí mismo, yo, yo veo AI, creo que la amenaza de la IA es que en realidad los integradores no abrazan AI, Creo que es una tremenda oportunidad para los integradores, creo que permite a los integradores realmente elevar su juego, lo que la IA puede hacer es crear masivamente eficiencias, en las cosas que actualmente no te hacen ganar dinero. De lo que estoy hablando es de generar propuestas de ventas, ya sabes, documentar la documentación del cliente, generar salas, salarios, pero también generar contenido que realmente puede elevarte como líder de pensamiento en tu mercado. Por lo tanto, la mayoría de las empresas de integración son pequeñas empresas. Y muchas veces es el propietario de la empresa el responsable de generar las ventas, de hacer el marketing dentro de la empresa, de generar los medios de comunicación social, de llegar a los profesionales del diseño y a los clientes potenciales. Ai, el uso de grandes modelos de lenguaje puede reducir enormemente la cantidad de tiempo que usted pasa en eso. A menudo, ya sabes, cuando estás al frente de un negocio, las ventas y el marketing realmente caen en la lista de prioridades, en realidad pasas mucho más tiempo gestionando tus clientes actuales, tus proyectos siendo arrastrado a reuniones, la IA puede reducir masivamente el tiempo que pasas generando nuevos negocios. Y creo que es una de las cosas que no debes ignorar. Porque si la ignoras, tu negocio se verá amenazado porque tus competidores la utilizarán. Me alegro de que digas eso, porque estaba a punto de decir que, sí, te van a pillar por detrás porque de repente van a ser más eficientes y más capaces. Y tú no. Cierto. Absolutamente. Y creo que si hay una amenaza, ya sabes, una de las cosas que la IA puede hacer es que puede generar imágenes, puede generar imágenes de los proyectos, probablemente, ya sabes, si había una amenaza, tal vez tal vez la IA podría crear estudios de casos y crear, ya sabes, las descripciones de cartera que de un competidor, que o no se basa en la realidad. Así que en realidad, usted sabe, usted podría adaptar la IA para hacer un proyecto de sonido tal vez un poco mejor de lo que realmente es. Pero realmente creo que en este punto, lo que permite a las empresas hacer es crear realmente, como he dicho, elevarse a sí mismos como líderes de pensamiento, y realmente centrarse en las cosas que la IA no puede hacer, que es en realidad

13:23  
la experiencia humana, la experiencia personal real, actuando como una suma Lea para tus clientes. Así que realmente aprender acerca de lo que un cliente realmente lo que es importante para un cliente. Quiero decir, tenemos un libro blanco llamado integrador tiene 27. Eso es absolutamente todo lo que la IA no puede hacer, pero que se puede hacer como un punto realmente bueno integrado. Rich, me estás mirando raro. ¿Quieres intervenir en

13:48  
dos cosas? Voy a exponer Ben Gough. Vale, Ben Goff es el chico del póster del último CD, una revista y está en la portada. Está muy elegante, lleva su traje azul, y está de pie delante de un entorno muy profesional. Totalmente falso. Me dijo esto anoche totalmente falso. Así que lo que hizo fue tomarse una foto a sí mismo, y utilizó el plugin AI de Adobe Photoshop para crear el fondo y una mesa, poner algunos planos sobre ella, hacer que parecieran realmente profesionales. Y eso es lo que envió a la revista. Así que ten cuidado. Ai permite falso falso a escala es lo que yo llamo. Ahora, aquí tenemos otro ejemplo en el que hay que tener cuidado.

14:37  
Los lenguajes de programación con los que todos crecimos se han convertido en inglés. prope. El inglés es el nuevo lenguaje de programación. Asi que o cualquiera que sea tu lenguaje. Cierto, cierto. Vale. Así que sí, los humanos, sólo programan lenguaje natural. Y así hay empresas en este momento, como la empresa de Ben. Él está usando esto profundamente en su back end allí.

15:00  
Escribiendo código de control para sus sistemas de control doméstico usando GPT. Para generar el código genera Python y luego va a niveles más profundos. El problema es que estas IAs son estúpidas. No saben que alucinan, cometen errores, y no te dirán que están cometiendo errores. Así que si piensas que vas a reemplazar a un programador, esa es la idea equivocada. Necesitas un programador para supervisar la IA, pero ese programador que antes tardaba tres días en hacer un trabajo puede hacerlo en una mañana. Así que van a tener que recibir la ayuda, la asistencia, la amplificación, sí, de la IA. Pero necesitas a alguien con experiencia para vigilar esa cosa, porque la IA no sabe si está cometiendo un error. ¿No es así? Así que no despidas a tu personal de programación. Sí, mantén lo mejor de lo mejor y asegúrate de que están supervisando la salida. Podría Creo que tienes toda la razón puente. Y esa es, esa es la clave. Nos gustaría charlar GPT es saber las preguntas correctas que hacer. Y eso es, como cualquier persona realmente preguntó chat GPT para especificar un sistema de cine en casa o sistema de cine en casa.

16:10  
He hecho las preguntas específicas como, ¿Cómo interactúan los graves en una habitación y esas cosas y es que ha agregado alguna información realmente precisa, resulta que no es la más sosa, la especificación más poco interesante que hayas visto nunca. Ese es el punto. Y es por eso que no va a sustituir el trabajo de un integrador, es de la misma manera que una norma como la materia, no puede, ya sabes, yo no espero que para reemplazar el trabajo de un integrador, que todavía tiene que entender las necesidades de los propietarios de viviendas los requisitos de los propietarios, y luego ser capaz de construir un sistema en torno a ellos. Y es lo mismo con la programación, creo, acabo de identificar una amenaza con que los nuevos titulares en su industria, que no tienen el conocimiento que están utilizando el chat GPT y cosas por el estilo para entrar en el negocio, ahora desafiando por su negocio, pero en realidad no saben la parte de atrás de la misma. Así que estas herramientas pueden potencialmente permitir a la gente hacer el trabajo que normalmente no haría el trabajo. Pero ellos piensan que tienen la confianza ahora porque hay una herramienta que les está diciendo cómo hacer el trabajo. Eso podría ser potencialmente un nuevo vector de amenaza. Sí, no seas perezoso. Sí. ¿Es eso diferente hoy en día?

17:23  
Pregunta para la audiencia. ¿Cuántos de ustedes han usado chat? ¿GPG? Aunque sea para algo sencillo, pero has hecho una pregunta, no me lo esperaba. Estupendo. Muy bien. Ahora, déjame hacerte una pregunta. Aquellos de ustedes que han utilizado el chat GPT, ¿cuántos de ustedes han apagado? ¿Compartir?

17:43  
¿De todos? ¿Os dais cuenta de que si hacéis una pregunta, ya sea algo básico, como de qué color son las rosas, a programación a casi cualquier cosa, si no desactiváis compartir, está disponible para todo el mundo que está en el chat. GPT que van a decir es un ejemplo rico arma toda una gran propuesta para alguien, porque esas botellas va a hacer una gran gestión de proyectos. Y viene allí y voy a ir allí y ¿qué voy a hacer, pero Rich es mi competidor? Voy a entrar y decir, ¿Qué es Rich Green? Busque la semana pasada.

18:23  
Y todo lo que se pregunta en allí va a venir en mi pantalla, porque no apagó compartir. Oh, ¿adivinas lo que estoy haciendo? Sí. Ok. Así que si usted tiene cuatro competidores en allí, todo lo que tienes que hacer empezar a trabajar su camino alrededor y decir, vamos a ver lo que la competencia esto es una gran ventaja competitiva. Es para espiar a tu

18:45  
Yep. Así que aprendieron a desactivar la esquila porque eventualmente se van a dar cuenta después de tres o cuatro, cinco propuestas. La suya se parece a la mía, pero es

18:56  
lo que sea, si escribieras en su, digamos, generame una propuesta para que Joe Schmo haga esto. ¿Y él había compartido? Yep. Entonces Rich podría ser como, hey, mira, acaba de usar esto para generar la propuesta. ¿Y te mostraría la propuesta completa? Wow, palabra por palabra. Palabra por palabra. Y si usted lanzó en una palabra, porque todos los que han estado en el chat GPT entender eso. Son

19:20  
la forma de hacer las preguntas, cuanta más información puedas poner generará normalmente la misma respuesta, pero muchas veces empezará a mejorarla. Así como un ejemplo, si rich hace algo

19:33  
hace la pregunta, da la respuesta con ese punto, lo que estoy buscando. Ahora otro pensamiento aparece en su cabeza dijo, Bueno, si añado esto, ahora va a generar un nother entero, y luego otro y otro. Va a seguir así porque estás descubriendo que todo lo que le pidas va a empezar a incorporar todo esto junto.

19:53  
Pero de nuevo, si ese intercambio continúa, puedes leer su pregunta original y todas las respuestas

20:00  
Vaya. Me alegro de que hayas sacado el tema. ¿Cuánta gente piensa eso y este es un, este es otro ángulo que queremos descubrir? Lo que me gusta de esta discusión es algunas de estas cosas son a la vez, que podría ser una amenaza. Pero luego otro caso de uso, que podría no ser una amenaza, o pueden ser que incluso son neutrales. ¿Cuántas personas piensan que la IA es una amenaza para perder puestos de trabajo?

20:24  
De acuerdo. Tuvimos una gran discusión ayer, en la que quiero que participe Rich, sobre todo lo contrario. Así que algunas personas piensan que es una amenaza. ¿Así que no lo lleves a tu negocio, Pete? Porque conozco a este tipo. B, ¿crees que alguien en tu empresa podría potencialmente no ser necesario o no tener un puesto porque la IA podría reemplazarlos?

20:51  
Dijo, No, porque somos demasiado pequeños. Así que esa es una buena respuesta. Pero hablemos de darle la vuelta a ese guión. Tan rico, que quieres recordar que a partir de Sí, bueno, tengo un modelo de negocio diferente. Mi modelo de negocio es construir la empresa más pequeña posible. Y soy una empresa de uno, soy una persona, y subcontrato mi ingeniería, mi programación mis técnicos. Hago todas las ventas, el marketing, el diseño, la redacción de propuestas, la facturación, etcétera. Con la IA, puedo empezar a parecer una empresa mucho mayor, nadie sabría que soy una empresa de una sola persona. Así que no voy a sustituir a la gente, porque no tengo a nadie a quien sustituir, tengo a mis grandes subcontratistas, seguirán trabajando como grandes técnicos, etcétera. Pero puedo dar la impresión de ser una gran empresa muy pulida si utilizo la IA para pulir mi marketing y crear un bonito dibujo que me ayude a organizar las ideas que hay detrás de mis diseños. Así que lo veo como un factor de amplificación. Ahora, en otras empresas que emplean, digamos, Eres una empresa típica, y empleas a cinco 810 Personas,

22:06  
no despidan a todo su personal de ingeniería, eso estaría mal. Lo que quieres hacer es mantener lo mejor de lo mejor de tu talento. Y los que están rindiendo por debajo de lo esperado podrían ser reemplazados por IA. Así que ver eso como un complemento a su mejor rendimiento de las personas. Sí, ese fue el quid de la conversación, ahora la IA se utiliza para aumentar la productividad. Y hay varias empresas, escucho muchos podcasts. Una vez hecho con para los capitalistas de riesgo, son todos multimillonarios. Se llama el todo en podcasts. Es un podcast realmente genial. Son de California. Y han instituido una política, muchos de ellos que si sus empleados no están utilizando el chat CBT para aumentar su eficiencia. Están fuera. Están literalmente despedidos. Así que supongo que la amenaza de que hablamos antes de que si usted no está abrazando el chat, CBT no como una herramienta de diversión, pero en realidad comienza a utilizarlo para afectar a su negocio. Estás atrasado y vas a estar en problemas muy rápido. ¿Puedo hacerle una pregunta a Jeff? Yo también te quiero.

23:19  
Jeff es una persona de ciberseguridad. Es un experto en ese campo.

23:23  
La ciberseguridad es profundamente peligrosa para nosotros. Usted acaba de decir que tenía como 500.000 Sí. ¿Ataques a tu router en casa? Sí. Esta semana, en una semana. Sí. 500.000 ataques. ¿Qué pasa cuando ai

23:42  
10 puntos, ataques más agresivos en tu red? ¿Cuál es la nueva defensa?

23:50  
Es una gran pregunta. Realmente lo es.

23:54  
Como todos ustedes saben que con cualquier nueva tecnología, especialmente cuando estás mirando las cosas desde un lado oscuro, si se quiere,

24:03  
las empresas que proporcionan la seguridad cibernética, ya sea un punto de control, Cisco, cosas por el estilo, que proporcionan un cierto nivel.

24:12  
Vale, entonces llega la IA y los hackers aprenden un poco más, así que suben hasta aquí. Ok, y quien sabe cuanto tiempo le tomará a este grupo entonces el aquí y esto continuará y continuará ¿nunca desaparecerá? ¿Mejorará? Sí, mejorará. Pero cuanto más inteligente se vuelve la IA, más rápido se vuelve.

24:37  
Los fabricantes de esos productos ya están empezando a incorporar la IA para contrarrestar eso.

24:45  
Como dijo Rich, yo monitorizo mi pequeña red doméstica. Y tengo demasiadas cosas allí. Tengo como más de 50 pequeños dispositivos IoT. Interruptores de luz en las bombillas todo el bit. Así que corrió un poco

25:00  
configuración. Pero yo uso un router con un firewall, un sistema de gestión de red, un tercer firewall, además de la anti virus y todas esas cosas, estoy teléfonos y portátiles y todo. Y en una semana, tuve 506.000 intentos de entrar en mi red.

25:22  
Me alegro de tener las cosas configuradas, ¿verdad? Espero que nadie lo haya conseguido.

25:29  
Pero realmente quiero hacer una comparación de inicio de repente diciendo, si están haciendo que muchos es que voy a ver ese número aumenta, que es todo lo que va a hacer, y está buscando todo lo que está abierto. Ahora mucho cuidado con cerrar mucho.

25:45  
Los que usted tiene instalaciones que los residentes donde están haciendo un montón de juegos de azar. Y a los que juegan les encanta tener puertos abiertos para poder compartir y jugar al mismo juego con su amigo del otro lado del país o de donde sea el caso. Ahora lo estás abriendo, usos de juegos, específicamente a los puertos. Y todos los hackers saben que buscan vecinos. Ahora mi idea de juego es tratar de ganar y perder en el Solitario. Así que creo que estoy relativamente protegido. Todavía no domino eso. No hago estas cosas. Así que

26:21  
ten cuidado de que cuando has hecho una instalación, nunca jamás puedes irte. Siempre va a haber actualizaciones, mejoras, parches, etc. que tienen que suceder sólo porque ese lado oscuro, el hacker está ahora subiendo de nivel en la gran, gran parte, frase equivocada. De acuerdo.

26:45  
La IA está ayudando a ese hacker a aprender cómo subir aquí. Y mientras tanto, la IA también lo está aprendiendo. Y de nuevo, sin compartirlo, lo están compartiendo con todos los demás. Ahora tienes 10s de 1000s de hackers por ahí que son todos dicen, Oh, todos tenemos esta información. Todos están un paso adelante. Otra vez,

27:06  
la información se comparte muy, muy, muy rápido. Una web oscura.

27:11  
Añaden unos 3600 nuevos usuarios a la dark web a la semana.

27:21  
Eso es mucho. Sí. Y piensas que fuera de esos... He estado en la web oscura, y me asusta mucho. Yo no voy

27:32  
...en línea en la web oscura en mi casa. Tengo una pequeña laptop separada, pero honestamente, voy a Starbucks...

27:41  
que es tan abierto, entonces voy a entrar allí. Y recibo miradas raras de la gente porque todas estas cosas raras salen de su pantalla. Pero voy allí sólo para echar un vistazo. No soy malicioso. Nunca haré nada que me asuste. No me gustan los compradores de prisión. No me gusta el aspecto. Pero sólo me gusta mirar alrededor. Y es increíble lo que la gente no ha publicado allí. Sí. Pero también tenga en cuenta al menos los Estados Unidos que estoy seguro de que GDPR de la Unión Europea. Siempre están buscando esas palabras desagradables. ¿Verdad? No entres ahí y digas hola, soy un terrorista.

28:17  
No me aceptarían. No, Rob. Si, si. Así que suena como una amenaza para todas las empresas aquí es la red. Vamos a necesitar de la noche a la mañana, mejorar mucho en el lado de la red. Sí, claro. Quiero decir, ¿qué?

28:36  
Mi cabeza da vueltas ahora mismo porque estoy preocupado. Esto es lo que creo que es una amenaza. Creo que hemos sido capaces de patinar a través de esto durante mucho tiempo. Y creo que vamos a estar a punto de empezar a dejar de patinar a través de esto. Porque cuando instalamos el equipo en la casa, y luego pasa algo, bueno, tú lo pusiste, y tú lo especificaste. Así que es tu culpa. Así que vamos a tratar de que lo que ¿cómo crees que va a ir Giles? Quiero decir, la otra cosa que creo que debemos también, ¿qué pasa con los integradores de redes propias, debido a todos los datos de los clientes que en realidad se almacenan en las redes también. Sí, eso es también algo que veo como una gran amenaza. Porque al fin y al cabo, quiero decir, sí, al 100%, los integradores, quienquiera que sea la última persona que toque la red, el integrador siempre será el responsable de mantener esa red y siempre será el que la soporte. Así que independientemente de lo seguro que sea su hardware, si un intento de phishing termina en el correo electrónico de un cliente, y hacen clic en él y acceden al ordenador y de repente a toda la red, sí, naturalmente se centrarán en el integrador. Por lo tanto, cabe preguntarse si los integradores deberían ofrecer algún tipo de formación al respecto al propietario de la vivienda para intentar mitigar un poco esa amenaza o si los integradores deberían incluir en sus condiciones de venta un seguro específico.

30:00  
para protegerlos contra ese tipo de amenazas. No sé cuántos integradores lo hacen actualmente, pero es una nueva realidad a la que deberían enfrentarse, pero también sus propias redes y sus propios sistemas informáticos, sus propios empleados, cómo gestionan los datos sus propios empleados y técnicos. Eso es también veo una gran amenaza que realmente necesita ser muy, muy centrado en y eso es algo que no creo que los integradores tienen mucho cuidado de datos de contraseña ahora para, para los sistemas también. Quiero decir, yo, te diré antes, las primeras etapas de ser un integrador antes, esto es hace mucho tiempo, así que no vengas después de mí.

30:40  
Yo solía usar esto, básicamente el cliente que lo que el SSID que siempre solía usar era la dirección real del cliente. Y luego solíamos utilizar para las fases fáciles de sake, la misma contraseña.

30:53  
Sí, esto fue esto fue de nuevo en 2006 a 2007, los primeros días de Wi Fi. Pero tengo en cuenta, creo que uno de haber hablado con algunos muy grandes empresas de tecnología, la mayor amenaza que una gran cantidad de empresas de tecnología ver en este momento es el técnico pícaro o el pícaro empleado de un integrador que tiene acceso a todos los propietarios de tomar las contraseñas, y ser capaz de acceder a esos sistemas o los sistemas que esa base de datos que se vea comprometida. Así que eso es algo como una empresa de integración que usted necesita para ser conscientes de y tomar medidas para proteger rango que quería que es extremadamente peligroso. Eso es, eso es muy aterrador. Estoy pensando en

31:34  
en lo poderosa que se va a volver la IA en los próximos tres años, las curvas son verticales, prácticamente verticales, los próximos tres años van a ser increíbles. Así que muy pronto tendremos

31:51  
generación de contenidos a nivel de píxel en tiempo real. Es como películas de calidad 4K, generadas en tiempo real con IA escribiendo el guión, creando los actores, estableciendo la iluminación, estableciendo la escena. Ahora, con ese tipo de poder, ¿qué crees que un hacker puede hacer con la IA haciéndose pasar por alguien de la familia. Esto también ha estado sucediendo desde hace un tiempo. La reanimación de los muertos. Así que si has perdido a un ser querido, y tienes vídeos y fotos y clips de voz de ese ser querido, puedes enviarlo a un servicio, ese servicio lo reanimará, lo traerá de vuelta de entre los muertos, y lo creará como una nueva personalidad dentro de tu casa que aparece en tus televisores y sale de tus altavoces inteligentes. Ahora bien, si un pirata informático accede a esta información y un personaje entra en la casa a través de la red y empieza a hablar con los niños, ¿qué van a pensar los niños? Ellos ni siquiera necesitan tener acceso a ella que se llama a sus hijos y tiktoks, Instagram, lo que sea publica su voz y su imagen de datos ya está ahí fuera. Usted sabe que estos pequeños robots que están creando robots dirigidos AI. Son pequeñas cosas lindas. Ruedan alrededor. Un Samsung mostró el Bali al CES. Estas pequeñas cosas estaban alrededor de su odio infantil. Y tienen lindos ojitos en él y sonrisas y esas cosas. Y hablan directamente al niño y la voz de mamá sale del robot. Eso es aterrador como el infierno porque el niño no puede procesar eso. No saben que no es mamá la que les habla. Sí, está ocurriendo ahora mismo.

33:35  
Absolutamente. Porque el aspecto de la suplantación, creo que es una de las cosas más aterradoras. Sí, ¿la IA? Porque también, quiero decir, ¿qué quieren la mayoría de los hackers? Dinero. ¿Y con quién trabajan la mayoría de los integradores? Con individuos de alto poder adquisitivo. Así que en realidad la capacidad de suplantar

33:56  
un integrador, o en realidad ser capaz de, como muchos de los ataques de phishing son muy, muy inteligente

34:03  
para pedir a los individuos que transfieran dinero, no es como solía ser, ya sabes, el Sultán de algún otro país, como pedirte que transfieras un millón 40 millones de dólares, en realidad se está volviendo mucho más sofisticado, proporcionando facturas que parecen idénticas a tus facturas. Sí. Y sólo cambiando ligeramente los datos bancarios. Así que eso es algo que creo que el aspecto de suplantación no puede ser subestimado. Absolutamente. Es una amenaza para las familias. Pero creo que también es una amenaza para los integradores y para los integradores, clientes, recibí un ataque de phishing bill.com la semana pasada, y yo estaba esperando una factura para ser pagado a través de bill.com. Es un servicio en los EE.UU.. No sé si es internacional, y miré hacia abajo y fui, Oh, genial. Están a punto de pagarme click.

34:49  
Y caí en la trampa. De alguna manera ellos sabían que yo estaba esperando que me pagaran una factura en bill.com En ese momento, muy bien. Así que una de las amenazas es que vas a

35:00  
Tengo que ser mucho más diligente, mirando las cosas, realmente asegurarse de que son legítimos. Con suerte se puede decir que son de fiar. Pero no veo, creo que vamos a tener que ser reaccionarios en esto. No veo otra forma que no sea seguir las mejores prácticas. Creo que vamos a aprender cómo hacer frente a las amenazas de IA en nuestra industria, literalmente, tratando con ellos a medida que ocurren. Y entonces tal vez algunas soluciones van a pasar a ser como, Bueno, vamos a arreglar esto. Y luego, como dijo Jeff, va a haber la siguiente. Y bueno, vamos a arreglar este. Yo no.

35:35  
No creo que sea evitable. Sí quiero poner un tapón, que merece la pena hablar de ello, tenemos un viejo amigo de Mario,

35:45  
que trataba con gente de muy alto poder adquisitivo. Y eran personas que estaban totalmente en riesgo de ser blanco. Y tuvo que tener conversaciones francas con ellos, ¿realmente necesitas que tu termostato esté conectado a la nube, porque eso es una superficie de ataque. Eso es, eso es un vector potencial. Así que tendría estas discusiones. Y en algunos casos, él ventilaría brechas en las casas de la gente, y simplemente no estarían conectados, lo harán todo internamente, para asegurarse de que son tan seguros como pueden ser, que probablemente todavía va a necesitar ser una alternativa. Para algunas personas, es posible que para algunos de los nuestros, podríamos decidir, ya sabes, lo que, usted no debe tener 120 dispositivos conectados en esta casa, usted debe tener el menor número posible no son los que hacer nada de eso, o en este momento, sus chicos. Una cosa de la que hemos hablado en los últimos días, especialmente en el lado de la red de las cosas, es asegurarse de que cuando usted está haciendo una instalación que su su red está segmentada.

36:42  
Así que tienes usuarios invitados, tienes tus dispositivos IoT, tienes los portátiles de tus ordenadores, cosas. Y puedes seguir así. No es tan difícil de configurar.

36:56  
Pero mantiene a los individuos si están tratando de entrar a través de un dispositivo IoT, que es muy vulnerable.

37:03  
Los televisores inteligentes y las impresoras son probablemente los dos más fáciles de atacar. Pero si están segmentados lejos de sus sistemas informáticos, o junior trae a los amigos a jugar.

37:16  
Eso irá y crecerá y crecerá, puedes terminar con 23456 segmentos en una sola residencia, muy fácil de hacer. Tampoco veo que sea necesario empezar a educar a los clientes. Porque a eso lo llamamos wetware. Ya sabes, ¿alguien sabe qué, dónde está? ¿Es tu cerebro? ¿Porque está mojado? ¿Y normalmente lo haces? Bueno, hiciste clic en lo de bill.com que fue un error de wetware.

37:46  
¿Crees que es inevitable que ahora vas a tener que trabajar en su negocio, toda una cosa sobre la forma de educar al usuario final para decir, Bueno, usted está ahora pongo todas estas cosas en su casa, ahora vas a necesitar para no vivir con ella y pulse todos los botones y todo lo que potencialmente podría comprometer el sistema haciendo actualizaciones de firmware o haciendo clic en las cosas. Lo que me gustaría que se ocupan de que los ricos porque sé que tratar con una gran cantidad de usuarios finales y Giles China, sí, estoy tratando con los multimillonarios de Silicon Valley. Y creen que lo saben todo. Y no sus ejecutivos, a veces empezaron como ingenieros, y son muy flojos con sus redes, son estúpidos. Muy a menudo, tendrán un departamento de TI en su oficina o en su empresa que gestionará la red doméstica. Esos tipos no saben lo que hacemos. Y no saben lo vulnerables que somos. Así que es nuestra responsabilidad educarles. Jeff tiene en su taller de seguridad cibernética, una lista de verificación es una lista de verificación muy completa que creo que un integrador debe asumir la responsabilidad de sentarse conseguir tiempo con los propietarios de viviendas sentarse con ellos y decir, vamos a hablar de esto es muy grave, que está bajo amenaza aquí, tenemos que hacer esto, comprobar esto que comprobar, comprobar, y voy a controlar esto para usted. Pero tienes que decirme que no vas a hacer este check, check, check, check, check. Así que estás educando al propietario a través de este enfoque de lista de control estructurada. Y esperemos que entiendan el valor que estás aportando al hacer eso y estás tomando un nivel más profundo de responsabilidad. Sí, voy a añadir justo encima de lo que ha dicho Rich, Jonathan, me voy a meter contigo.

39:25  
Me instalo en tu casa y lo tenemos todo hecho. Y tú y yo vamos a sentarnos y pasar por esta pequeña lista de verificación. Y usted va a hacer que el tener todos los entiende lo que no vas a tocar nunca, nunca, nunca.

39:38  
Donde veo otro problema es ¿compartes eso con tu familia? Sí, va a ser seguro que tu familia, incluyendo a los jugadores de 12 y 1314 años, estén todos sentados juntos, ya sea una hora

39:52  
o cosas recurrentes. ¿Conseguimos un miembro de la familia a mí? ¿Es una buena idea?

40:01  
Sí, exactamente. Están por todas partes. Así que tienen que tener un entendimiento. Suceden muchas cosas por la puerta de atrás porque los niños, y yo siempre me meteré con los juegos porque comparten la red con Jr. Como venga un amigo.

40:17  
Ahora usted está sacando su nombre de usuario y una contraseña o darles una nueva mencionó la segmentación de la red antes de tener uno sólo para eso.

40:27  
Gracias Gracias, Jonathan. Sí, me dejó elegirlo. Sí, en un, en un guiño al futuro porque yo vivo en el futuro. JB Fowler estaba en nuestro panel, ¿el holograma? Sí, soy un holograma. JB Fowler de Domotz estaba en el panel. Y ellos están trayendo técnicas de defensa de IA en sus tecnologías de firewall, tecnología de vigilancia, y así sucesivamente. El camino a seguir no es tan sombrío como se podría pensar. El camino a seguir es IA contra IA. Y eso es lo que se está desarrollando en los laboratorios ahora mismo.

41:02  
La proposición es que cualquier cosa que genere contenido de IA será responsable de su contenido, cómo lo haces responsable, le das un número de serie o una dirección MAC, de modo que cualquier cosa que produzca pueda ser rastreada hasta ella. Y cuando no hay suficientes personas para vigilar todas estas IAs. Así que vamos a tener IAs que vigilen las IAs, que rastreen esas autenticaciones hasta la dirección MAC de la cosa que escupió la amenaza, y entonces las autoridades se involucrarán. Así que esto es en lo que están trabajando ahora mismo. En Open AI, lo llaman superalineación, el programa de superalineación es IA defendiéndose contra IA. Y le han dado a Ilya Sutskever, uno de los fundadores de Open AI, el 25% de la capacidad informática de Open AI está dedicada a la seguridad y la alineación. Eso es una gran cantidad de recursos. Y él dice que necesito más. Así es. Así que están trabajando en ello, hay esperanza. Pero esa es la única forma de avanzar a escala es IA contra IA.

42:04  
Una vez

42:06  
es la ética de la IA. Sí, eso es

42:12  
otros 45 minutos

42:15  
del futuro. Sabes, estoy sonriendo aquí, porque todo el tiempo que estás hablando de IA contra IA, estaba pensando en un sketch de George Carlin, donde decía que era mi cumpleaños, y decidí poner un humidificador y un deshumidificador en una habitación y verlos luchar.

42:30  
Creo que eso es exactamente lo que está pasando

42:33  
estar en una etapa cero para siempre. ¿Y qué pasa con el ancho de banda? Si estas cosas se pelean para siempre, ¿qué hace eso con nuestra red, con nuestro rendimiento? ¿Si tus cortafuegos se van? Volviéndose locos en tu casa, ¿tratar y tratar de, ya sabes, mitigar todo? 500.000 por minuto, tal vez usted podría conseguir? Quiero decir,

42:57  
Quiero ser positivo al respecto. Y creo que estas herramientas están llegando, las necesitamos. Pero es realmente interesante la propuesta de la forma en que todo esto va a cambiar rápidamente.

43:06  
Entonces, ¿hay algo que me haya perdido de lo que te gustaría hablar? ¿En cuanto a otras amenazas? Verás, creo que ahora mismo la mayor amenaza es simplemente, ya sabes, el wetware y ser bueno con tus políticas, ser disciplinado cuestionando, y asegurarte de que tus propietarios saben lo que son. La única otra cosa que creo es que creo que vamos a estar presentando a nuestros clientes con los documentos para decir, mira, hemos hecho todo lo que posiblemente podemos hacer para hacer esto. Creemos que tan seguro como podemos. Pero algo podría suceder. Creo que eso es inevitable también. Bueno, lo que dijiste antes, Walt realmente suena cierto. Creo que la mayor amenaza es no involucrarse. Sí, tienes que sumergirte en esto y dominarlo. Si no lo haces, tus competidores te pasarán por encima. Sí. Sí. Bueno, creo que vamos a terminar si hay alguna pregunta, acercarse a un micrófono. Si no, pueden tomarnos cuando bajemos del escenario. Pero muchas gracias por darnos el tiempo para la charla. Gracias, Jeff. Rich y Giles por ayudar en la pared. Muy bien.

44:07  
Gracias a todos.

44:09  
Tengo una pregunta para ustedes.

44:12  
Muy, muy rápido en. Yo sólo, me preguntaba,

44:18  
¿cómo puedes evitar ataques basados en internet cuando no es posible discernir entre lo que es real y lo que es falso? Si. Jeff sabe la respuesta que como pregunta Jeff.

44:32  
Errar por el lado de la precaución es lo primero cómo

44:39  
saber si es una amenaza real o inventada o falsa.

44:44  
Si llegas a eso antes, su IA está mejorando mucho en hacerlo.

44:50  
Odio usar la palabra es casi imposible, pero desafortunadamente lo es en este punto. Estamos en esa etapa de aprendizaje inicial. Mejorará

45:00  
esperamos.

45:02  
Buena suerte.

45:05  
Yo tengo buena suerte y adiós por mi forma de verlo, lo abrazo. Me encanta la IA, me gusta jugar con ella. Pero vengo de esa escuela de protección. Ya sabes, construyo redes. Te diré esto Pete, yo soy lo que, lo que me he convertido en mucho más cuidadoso con y mucho más experto en es realmente el estudio de la URL que algo viene. Y luego en realidad tal vez incluso ir en Google y diciendo es esto es esta URL de fiar. Y tienes que mirar las rutas, y todas las cosas que se ponen en las barras entre la ruta. Y entonces eso es una gran manera, al menos con su propio cerebro, usted puede averiguar bien, esto no es legítimo. O si viene de, ya sabes, bank.com

45:51  
probablemente sea de bank.com. Pero no lo sé. Bueno, el título puede decir que siempre abro de quién es realmente. Sí, suele ser un revoltijo de letras en ese momento. Nunca de bank.com. Sí, exacto. Así que ahora va a tomar tiempo, y va a tomar su cerebro, pero es de esperar estas herramientas pueden entonces verificar, oh, esto vino de bank.com. Pero espera un minuto, la URL no coincide. ¿Tal vez las herramientas y como Vladimir putin.com? Sí. Sí. ¿Alguna otra pregunta?

46:24  
Gracias. Sí. No sé si respondimos satisfactoriamente. Oh, no.

46:33  
Además del hecho de que estoy aterrorizado aquí a lo que dos preguntas en primer lugar para usted, Jeff, esta es una rápida. Usted ha dicho que. Hace una semana, ¿tienes 500.000 ataques? 506,000? ¿Estamos todos recibiendo eso? Y simplemente no lo sabemos. Sí. ¿100%? Super.

46:48  
Segunda pregunta. Y esta es para los ricos, en este escenario de la IA vigilando a la IA.

46:55  
¿Qué se está haciendo para asegurar que la IA policial no sea cooptada por el mal actor, verdad?

47:02  
Excelente. Es una gran pregunta. Porque la IA ya está mostrando este año fenómenos emergentes. Está empezando a hacer cosas que los programadores no esperaban y para las que no la programaron. Está inventando su propio proceso de pensamiento. Y se está acercando al razonamiento. Así que se ha vuelto muy, muy aterrador. Lo enseñaron salió en las noticias la semana pasada. Sí, enseñaron a una IA a mentir, y a mentir muy bien. Y se volvió muy buena mintiendo. Y dijeron: «Bueno, ya basta. Sólo estamos bromeando. Deja de mentir. Y no lo hizo. Dijeron, dijo, No, no voy a dejar de mentir para hacerlo peor. Y se puso peor y peor y peor. Y yo

47:41  
dijo, sí. Pero era mentira. Pero era mentira. Así que los programadores como, Oh, Dios mío, ¿qué hemos creado? Esto es como el peor escenario de ciencia ficción, la cosa no dejaría de mentir. Así que eso es un comportamiento emergente. No fue predicho. Pensaron que podían controlarlo, no lo controlaron, sólo va a empeorar. Así que creo que la única manera de avanzar es IA contra IA, y luego IA contra IA. Y sí, y la única otra manera de avanzar lo suficientemente deseable es que vas a tener que empezar a prestar mucha más atención. Vas a tener que mirar realmente las cosas que vas a tener que hacer e involucrarte más y educar a tus clientes y a ti mismo para tratar de hacer lo mejor que puedas para mitigar lo que puedas. De acuerdo. Tenemos otra charla. Tenemos la tripulación aquí como otra charla que viene. Así que tenemos que irnos. Muchas gracias. Muchas gracias. Gracias a todos. Espero que hayan disfrutado de la charla. Ciertamente fue divertida. Y seguiremos hablando de este tema a medida que pase el tiempo. Gracias de nuevo por escuchar este podcast. En los próximos meses publicaré otras charlas que realizamos en la feria ISC. Gracias de nuevo. Y como siempre, os pido que mantengáis la mente abierta.

48:57  
Para más información sobre CEDIA visite CEDIA dotnet