AI Factory: per què la vostra IA necessita una plataforma comuna
Moltes iniciatives d'IA comencen de la mateixa manera: una prova de concepte, una eina externa o un projecte d'un sol equip. El repte sorgeix quan diverses àrees volen avançar alhora i el consum de recursos augmenta. De vegades, la infraestructura disponible no està pensada per a aquestes càrregues. Aleshores la pregunta canvia: com s'organitza la capacitat d'IA de tota l'organització. Una AI Factory és una de les respostes: una plataforma comuna sobre la qual cada equip desenvolupa i opera la seva IA.
De la prova de concepte a la IA que s'utilitza cada dia
Una prova de concepte demostra que alguna cosa funciona. Portar-la a producció requereix altres coses. Cal monitorar quants recursos consumeix i saber quin model utilitza quines dades. I cal ser capaç de repetir el procés amb el següent projecte. Les organitzacions que ho gestionen busquen capacitats comunes, de manera que cada iniciativa d'IA deixi de ser un projecte aïllat.
Apropeu la IA a les dades
Algunes dades s'han de mantenir localment, mentre que altres es poden processar externament. Decidir-ho demana un ordre: primer s'identifiquen, es categoritzen i es gestionen les dades; després es dimensiona la tecnologia. Quan això es fa a l'inrevés, l'arquitectura es contracta abans de saber què ha de suportar.
Què és una AI Factory
Una AI Factory és una plataforma compartida per al desenvolupament i l'operació de l'IA. Reuneix recursos de càlcul compartits, multitinença perquè cada equip treballi aïllat i autoservei. Hi suma quotes de consum, model serving i traçabilitat de models, dades, accessos i consum. Els equips de dades, MLOps i infraestructura treballen tots sobre la mateixa base i sota les mateixes normes.
Data Center Modular: quan el factor limitant és l'espai, la potència o la refrigeració
De vegades la plataforma està a punt però no hi ha prou espai físic. Aquí és on entra en joc el Data Center Modular. S'utilitza per ampliar la capacitat, garantir la continuïtat o apropar la computació a ubicacions específiques. Es té en compte quan l'espai, la potència o la refrigeració del centre de dades són insuficients.
Núvol, infraestructura pròpia o híbrida
El núvol i la capacitat pròpia no són mútuament excloents. Cada càrrega de treball té els seus propis requisits, i la comparació s'hauria de basar en les vostres càrregues de treball específiques i en el vostre model operatiu. Tampoc totes les organitzacions tenen les mateixes necessitats. Algunes requereixen una plataforma, d'altres infraestructura física i d'altres ambdues alhora, dimensionades conjuntament.
Preguntes freqüents sobre AI Factory
Què és una AI Factory, en poques paraules?
És una plataforma comuna per desenvolupar i operar la IA a tota l'organització. Els equips comparteixen capacitat de càlcul, treballen aïllats els uns dels altres i consumeixen amb quotes i traçabilitat.
En què es diferencia d'un Data Center Modular?
L'AI Factory és la plataforma: dades, models i càlcul compartits. El Data Center Modular és la capacitat física: espai, potència i refrigeració. Hi ha projectes que necessiten una de les dues i d'altres que necessiten les dues alhora.
Quan té sentit un centre de dades modular?
Quan l'espai, la potència, la refrigeració o la continuïtat esdevenen un límit. També quan cal contingència o apropar el càlcul a una ubicació concreta.
Què té a veure tot això amb la IA sobirana?
Si per IA sobirana enteneu controlar les vostres dades i els vostres models, el punt de partida és el mateix. Primer es decideix quines dades s'han de quedar a prop i quines es poden processar fora, i després es dimensiona la tecnologia.
A qui s'adreça el seminari web del 3 de desembre?
Per a CIO, CTO i responsables de Data i IA. També per als equips de MLOps, infraestructura, centre de dades, governança de dades i transformació digital.
Emporteu-vos el marc el 3 de desembre
El 3 de desembre a les 11.00 organitzem el seminari web «Cómo acercar la IA al dato y preparar tu infraestructura para escalar» (en castellà). Tindrà una durada d'una hora i es farà en línia. Hi participen Domingo Cardona Cano, Francisco José López Pérez i Cesar Lacorte de Var Group, juntament amb especialistes del nostre ecosistema tecnològic. Veureu un marc per analitzar aquestes decisions sense dependre d'una arquitectura tancada, i acaba amb preguntes i conversa amb els especialistes.