Se queda
El modelo, la imagen y el expediente viven en las máquinas del cliente. La inferencia no sale de la casa.
Inteligencia artificial
Un servicio público no entra cuando el documento no puede salir. KAI corre el modelo en la casa, en una plataforma multiagente sobre el grid CSF.
El modelo, la imagen y el expediente viven en las máquinas del cliente. La inferencia no sale de la casa.
Texto, visión, voz o documentos. El líder del grid le entrega el trabajo.
El sistema envía el trabajo y sigue. KAI entrega un tiquet, el identificador de seguimiento, y la consulta se repite hasta que la respuesta está.
Por qué no un servicio público
La imagen, el documento y la voz se procesan en las máquinas del cliente. Un servicio público de inteligencia artificial queda fuera de ese perímetro.
Sumar una máquina es unirla al grid CSF. El líder reparte el trabajo. No hay balanceador ni una lista de pares que configurar.
Agentes
KAI es una plataforma multiagente. Cada agente toma un objetivo. El líder asigna el nodo según el cupo y si el modelo ya está en esa máquina.
RAG recupera el material publicado en la casa. CAG, Context Aware Generation, genera la respuesta con el contexto del trabajo, no una respuesta suelta del modelo.
Objetos en video, patentes y seguimiento de vehículos entre cámaras. Rostros y personas, también cuando el rostro va tapado.
Whisper pasa la voz a texto. Kokoro pasa el texto a voz. Las dos corren en Java, en el nodo.
El modelo corre en Java, en el mismo proceso que atiende el expediente. Tensores, redes, pesos y diccionarios quedan en la casa.
Cómo lo consume un sistema
El sistema envía el trabajo y sigue. KAI entrega un tiquet. La consulta se repite sobre ese tiquet hasta que la respuesta está.
Si el sistema tiene instalado CSF, Crossover SOA Framework, publica en una carpeta del grid. El evento se replica en los nodos de KAI.
Un archivo o un lote entran por el mismo identificador de seguimiento. No hace falta otro núcleo.