Wojciech Bober, director técnico de producto en Nordic Semiconductor, nos explica como es y será el funcionamiento de la IA de borde en dispositivos vestibles. Se acerca una nueva generación de atención sanitaria centrada en el paciente.
Los avances en las capacidades SoC están resultando transformadores para la atención sanitaria vestible.
Mientras que los sensores normalmente descargarían datos para cualquier análisis significativo, la IA de ultra bajo consumo está cambiando fundamentalmente lo que ahora es posible en el dispositivo.
Esto es de verdadera importancia. Afecta la privacidad, la capacidad de respuesta y la utilidad clínica general, desbloqueando nuevas capacidades y aplicaciones, prolongando la duración de la batería y habilitando nuevos formatos de forma.
En última instancia, se trata de mejorar los resultados para los pacientes, mejorar la calidad de vida y el acceso a la atención que necesitan, cuando la necesitan.
Mantener los datos locales
De forma crítica, mantener el procesamiento local significa que el tiempo de inferencia es determinista.
Los resultados no se ralentizan porque una antena esté congestionada o un paciente haya entrado en una sala sin señal. Tampoco falla si un proveedor de nube sufre un ataque DDOS que interrumpa sus servicios.
Para un dispositivo diseñado para reconocer una convulsión o arritmia y actuar rápidamente, esa previsibilidad importa tanto como la velocidad bruta.
La duración de la batería también mejora.
Se logran ahorros significativos de energía al no tener que transmitir datos por telefonía móvil (4G/5G), ya que las conexiones de radio pueden ser órdenes de magnitud más caras por mW/bit en comparación con la inferencia local realizada por hardware especializado.
Estos ahorros solo seguirán creciendo a medida que las aplicaciones se vuelvan más ricas e intensivas en datos.
Otro beneficio es que los datos médicos sensibles no salen del dispositivo en su forma bruta.
En lugar de transmitir datos de acelerómetros, ECG o lecturas continuas de glucosa, la inferencia basada en el borde permite transmitir solo la información resultante.
Esto facilita mucho la gestión de las preocupaciones y regulaciones sobre privacidad y seguridad, alineándose con marcos como los principios de minimización de datos del RGPD de la UE.
Silicio superior
Nada de esto sería posible sin un progreso significativo en el hardware.
Los nodos de proceso de bajo consumo (22 nm) han reducido el coste energético del cálculo, junto con núcleos más rápidos que completan tareas en menos tiempo, lo que también ahorra energía.
Las unidades integradas de aceleración por hardware y procesamiento neuronal (NPUs), como las que presentan la serie nRF54L de Nordic Semiconductor, han ido aún más allá, aliviando a las CPUs de propósito general de costosas cargas de trabajo mientras ofrecen velocidades de inferencia órdenes de magnitud mayores.
Para los desarrolladores, eso se traduce directamente en margen para ejecutar modelos de aprendizaje automático (ML) más exigentes para aplicaciones complejas.
La clasificación de audio, el reconocimiento de imágenes, la detección de patrones biométricos y la detección de gestos, son de repente alcanzables sin agotar el presupuesto de energía del dispositivo.
