Apple y su Inteligencia son la primera aproximación de la compañía al uso de la inteligencia artificial generativa en sus dispositivos. Se ha tomado su tiempo para solventar los problemas de privacidad, y lo hace justo a tiempo para no perder el carro de las IAG. En un documento científico la compañía ha detallado cómo ha creado la Inteligencia de Manzana Apple Intelligence, y básicamente lo ha hecho con las aceleradoras de Google, para sorpresa de algunos.
Específicamente, las unidades de procesamiento tensorial (TPU) de cuarta y quinta generación de la compañía (TPUv4 y TPUv5p). La opción habitual para el entrenamiento son las aceleradoras de NVIDIA, pero son bastante más caras aunque tienen sus ventajas como una mayor cantidad de RAM disponible para el entrenamiento. Pero no todo es entrenamiento, sino también ejecución del servicio, y ahí es donde las TPU de Google le salen más rentables porque los procesadores de Apple están diseñados para ejecutar los modelos de lenguaje de cierta forma de la que se beneficia de las TPU de Google.
El documento de Apple cubre aspectos del entrenamiento y el posentrenamiento. La mayor parte del tiempo hace referencia a generalidades, y el resto a cosas de desarrollo propio que no especifica, así que al final es un documento bastante general. El entrenamiento por ejemplo se ha hecho con el entorno de trabajo AXLean de Apple de aprendizaje profundo, y que es de código abierto.
