FemtoAI abrió el acceso a su comunidad de desarrolladores y habilitó el uso de su plataforma integral de silicio y compresión para inteligencia artificial (IA), que incluye el kit de evaluación del chip femtoAI Sparse Processing Unit (SPU), modelos comprimidos, un compilador y la herramienta Sparsity Studio™. La propuesta apunta a facilitar el desarrollo de nuevos productos basados en IA y centraliza el acceso a herramientas y sistemas en developer.femto.ai.
El eje técnico de la iniciativa se apoya en el uso de dispersión (sparsity) en redes neuronales y en técnicas de compresión de modelos. Esa combinación permite reducir 10 veces el consumo de energía y la huella de memoria sin sacrificar precisión, un punto relevante para proyectos donde el procesamiento debe ejecutarse con restricciones de recursos.
Herramientas y modalidad de acceso
La comunidad de desarrolladores ofrece distintas vías de trabajo. Por un lado, los interesados pueden solicitar un kit de evaluación SPU para acceder al chip. Por otro, se habilita un esquema de autoservicio que incluye el conjunto de herramientas, compiladores y modelos de femtoAI. El esquema también contempla flexibilidad de modelos: llevar un modelo propio, utilizar uno de los predefinidos o desarrollarlo desde cero con herramientas y documentación adaptada a agentes.
En ese paquete, Sparsity Studio™ se presenta como una herramienta de medición para identificar el ahorro real de energía y memoria que habilita la tecnología de dispersión. Además, la comunidad incluye un Community Forum con debate abierto y sesiones de preguntas y respuestas en vivo con expertos y desarrolladores de la compañía.
Bill Hoppin, director comercial de femtoAI, enmarcó la apertura como una ampliación de un trabajo previo con empresas que ya utilizaban el entorno. “Ha llegado el momento de poner esta experiencia al alcance de más empresas y desarrolladores”, afirmó Hoppin.
Aplicaciones en audio y sensores
Sangnam Choi, vicepresidente de Audio y Sensores de femtoAI, señaló que el enfoque integra hardware y software, junto con compresión avanzada de modelos. “No solo ofrecemos una dispersión de primera clase”, comentó Choi, al referirse a la combinación de herramientas y aplicaciones. En esa línea, mencionó el uso de técnicas que permitieron ofrecer modelos de código abierto como OpenAI Whisper con un consumo de memoria 10 veces menor, además de desarrollar soluciones personalizadas como comandos de voz locales.
La plataforma ya fue utilizada en el negocio de audio y sensores con clientes como Legato, Marshall y NewSound, con el objetivo de crear soluciones de audio mejoradas con IA que consuman 10 veces menos memoria y 10 veces menos energía. Mehul Trivedi, director ejecutivo de Legato Hearing, afirmó: “La integración de soluciones avanzadas de audio con IA en la plataforma de femtoAI ha supuesto un gran éxito”.
Como parte de la iniciativa, la compañía prevé un encuentro el miércoles 7 de octubre, en una “happy hour” para desarrolladores durante la SF Tech Week, que se realizará en la terraza de la cervecería Barebottle Brewing Company, ubicada en Salesforce Park.
