Hola yo soy azeem azhar. Esta semana me tomé un par de días libres para pensar en el cultivo del trigo y la relación entre energía y sociedad.
Todos los domingos, comparto mi opinión sobre los desarrollos que creo que debería conocer en este boletín.
Si no eres suscriptor, esto es lo que te perdiste recientemente:
-
🌪️ Tres meses de IA en seis gráficos
-
🐫 El ojo de la aguja: dar sentido a los hilos
-
🐙 Promptpack: IA generativa para exponencialistas
Recién volviendo de vacaciones,
se sentía un poco perezoso con el gráfico del domingo, así que contrató a Code Interpreter para que lo hiciera por él.
Le encomendó la tarea de comparar los Punto de referencia de la MMLUun criterio LLM común, con ChatbotArenauna plataforma de batalla aleatoria de chatbots de fuentes múltiples.
En menos de 3 minutos, cargué un archivo CSV y dejé que GPT-4 visualizara y extrajera las pepitas principales de los datos. Se las arregló para obtener los conocimientos básicos, que había un vínculo positivo (r2 = 0,854) entre los puntos de referencia y que los modelos privados tienden a superar al código abierto en ambos puntos de referencia. Como alguien que no codifica todos los días, calculo que sin Code Interpreter esto me hubiera llevado alrededor de 30 minutos.
Es una herramienta innovadora. En febrero, profundicé en cómo ChatGPT empodera a los usuarios con una herramienta que ofrece una disección profunda de conjuntos de problemas particulares, todo por una modesta tarifa mensual. En aquel entonces, solo podía tratar con entradas de texto. Ahora, con el nacimiento del Intérprete de Código, puede manejar datos. Su velocidad y accesibilidad son realmente impresionantes, y eso le da un potencial revolucionario. Vea nuestro resumen trimestral de IA de principios de esta semana donde compartió un artículo sobre el impacto a largo plazo de la IA en la ciencia de datos.
Pero como muchas revoluciones, esta a menudo no alcanza su objetivo con precisión. Code Interpreter convierte a cada persona en un analista de datos sin capacitarlos como analistas de datos. Los datos se pueden analizar a través de múltiples lentes, algunos más precisos que otros. A menos que las personas que lo usen tengan un conocimiento profundo de los métodos analíticos, Code Interpreter podría contribuir inadvertidamente a la propagación de información errónea. Sí, es una herramienta poderosa, pero proceda con precaución y valide sus resultados.
Decodificación de GPT-4 Hace dos semanas, discutimos los rumores de que GPT-4 usa una arquitectura de mezcla de expertos. Los murmullos ahora son cada vez más fuertes. Semianalysis ha publicado una inmersión técnica profunda en GPT-4 basado en el conocimiento interno, destacando que OpenAI resolvió el problema de la escalabilidad y mantuvo los costos bajos al dividir el trabajo entre 16 modelos expertos más pequeños.
Algunas cifras destacadas:
-
Estiman que el recuento de parámetros de GPT-4 es de ~1,8 billones frente a los ~175 mil millones de GPT-3,
-
El FLOPS de entrenamiento para GPT-4 fue 2.15e25, aproximadamente el doble de la potencia informática necesaria para emular el cerebro humano (en el metaboloma
nivel),
-
Costo de capacitación estimado de $ 63 millones en GPU NVIDIA A100
. Si esto se hiciera en las nuevas GPU H100, el costo se reduciría en aproximadamente dos tercios.
La conclusión clave es que la ingeniería de GPT-4 es impresionante pero replicable; esta es probablemente la razón por la que mantuvieron la arquitectura a puerta cerrada. Otras compañías pronto fabricarán modelos que igualen o superen las capacidades de GPT-4, especialmente con hardware nuevo (como NVIDIA H100) abaratando la formación de modelos.
Ver también:
-
Excelente argumento de Mel Mitchell sobre el necesidad de medir el rendimiento de la IAabogando por metodologías sólidas y transparentes que evalúen la comprensión de AI y su capacidad para generalizar a partir de entradas variadas.
-
Anthropic continúa mejorando el rendimiento de las ventanas de contexto grande con el lanzamiento de Claude 2. Con la capacidad de manejar tokens de 100k, es realmente el mejor amigo para los TLDRers.
-
LLM como sinergistas cognitivos (agentes que usan múltiples personalidades) superan a una sola persona o a un número fijo de personas. a través del miembro de EV Gianni Giacomelli
Repensar la transmisión. Las redes de energía fosilizada se han visto durante mucho tiempo como uno de los mayores obstáculos para ampliar el acceso a la energía renovable. En EV#417nosotros escribimos
Existe una gran necesidad de actualizar estos sistemas heredados, hacer que las redes sean tan flexibles como se necesita para las energías renovables y revertir la regulación conservadora. Esto debe suceder rápido: en los EE. UU., la capacidad de los proyectos de generación y almacenamiento (un total de $ 4,3 billones en proyectos) que esperan ser conectados a la red supera con creces la capacidad de todas las plantas de energía existentes.
Casey Handmer hace el caso que la caída de los costos de las baterías significará que las futuras redes dependerán mucho menos del aumento de la capacidad de transmisión. A diferencia de las baterías que se desinflan, las líneas de transmisión se vuelven más caras con la longitud. Esto podría presagiar un futuro de sistemas energéticos mucho más localizados.
Habilidades para el futuro cercano. George Monbiot identifica las deficiencias de la educación actual como limitando la preparación de los estudiantes para un futuro incierto. Uno, es demasiado rígido. Dos, no enseñamos a los estudiantes sobre sistemas complejos. Tres, no equipa a los estudiantes con metahabilidades y metacognición, la capacidad de pensar sobre el pensamiento.
En palabras de Monbiot:
[M]cualquier estudiante completará su educación sin que nunca se le hayan enseñado los principios de los sistemas complejos. Sin embargo, todo lo que es importante para nosotros es un sistema complejo. […] Se debe enseñar a los escolares a comprender cómo funciona el pensamiento, desde la neurociencia hasta el condicionamiento cultural; cómo observar e interrogar sus procesos de pensamiento; y cómo y por qué podrían volverse vulnerables a la desinformación y la explotación. La autoconciencia podría convertirse en el tema más importante de todos.
Ver también, encuentros de primera mano con la dificultad de la toma de decisiones algorítmica en salud El miembro de EV, médico, inversionista en tecnología de la salud y empresario Vishal Gulati dice: «Enfocarse demasiado en los tropos de AI Hollywood está desviando nuestra atención de cómo la IA está dañando a los pacientes hoy».
$1600: el costo de una reunión interna típica de 30 minutos en Shopify.
Los países de la OCDE han visto un Caída anual de 3,6% en salarios reales en el primer trimestre de 2023.
Espero que no viaje por Gatwick estas vacaciones de verano. 54% de sus vuelos en junio fueron interrumpidos, el peor aeropuerto de Europa.
En los primeros seis meses de 2023, las compras de vehículos de pasajeros eléctricos e híbridos enchufables aumentaron en 44% en China, lo que equivale a más de 3,5 millones de unidades vendidas. Vea también, la primera vez de la IEA Revisión de minerales críticos enfatiza las demandas del creciente sector de vehículos eléctricos, razón por la cual los fabricantes de automóviles se involucran cada vez más en la cadena de valor de los minerales críticos.
En 2022, por cada dólar prestado para proyectos de carbón, Se suspendieron $14 previstos para otros préstamos similares.
Threads tiene una terrible retención de siete días del 16%. (Twitter es 35%, Instagram es 60%).
🤳🌾 WhatsApp las notas de voz están ayudando a transformar la forma en que los agricultores senegaleses colaborar y compartir conocimientos.
🧠 Úsalo o piérdelo. Los cerebros se vuelven más pequeños sin social regular y frecuente contacto con otros.
🏗️ Usando La IA podría ayudar a reducir la enorme huella energética y contaminante de la industria de la construcción. Y… La IA está automatizando a los astrólogos.
🌱 La reversión de la edad, haciendo que las células sean más jóvenes, es posible no solo genéticamente, sino también a través de químicos específicos medio.
🦙 Las llamas funcionan mejor en una tarea después de observar que los humanos la hacen.
¡Nuestro nuevo programa de referencia ha comenzado muy bien! Es súper simple. Simplemente comparta el boletín con el botón de abajo. Puedes comprobar lo bien que te está yendo en nuestro Tabla de clasificación.
Recomendar un amigo
¡Espero que lo disfrutes!
A
📢 Más de 260 000 líderes mundiales confían en nuestro boletín semanal para navegar la transición a una nueva era impulsada por tecnologías exponenciales. Brindamos análisis de expertos y conocimientos internos para ayudar a los líderes a pensar en el futuro con claridad.
Si desea exhibir su empresa o marca frente a esta audiencia influyente, comuníquese 👉 Conéctate con nosotros
Gracias al miembro de EV, Etienne Pollard, quien compartió el contraargumento del bocado que publicamos fin de semana pasado sobre los británicos tomando el proceso de producción en masa de hierro de Jamaica. Puede leerlo aquí: Era de la invención: Caso Cort.
Lo que estás haciendo: actualizaciones de los miembros de EV:
Paola Bonomo se ha incorporado al Consejo Científico de la Fundación Internacional Big Data e Inteligencia Artificial para el Desarrollo Humano con el objetivo de orientar la IA para que sirva al bien de la humanidad mediante la creación de vínculos entre la investigación, las empresas y la sociedad en su conjunto.
Emmet King y J12 Ventures anunció el lanzamiento de Nexusel programa catalizador para construir las próximas empresas de datos e inteligencia artificial líderes en Europa.