Výskumníci Apple nedávno predstavili nápaditý interný systém, keď na portáli arXiv zverejnili štúdiu o jeho fungovaní. Vyplýva z nej, že spoločnosť na urýchlenie interných úloh umelej inteligencie používa cloudový systém s názvom Minions. Pomocou komponentov Minion Server, Minion Executor a Minion Watchdog zabezpečuje efektívne, bezpečné a úspešné vykonávanie jednotlivých čiastkových úloh. Podstata spočíva v zapojení firemných Macov, ktoré práve nie sú vyťažené a nevykonávajú žiadnu dôležitú prácu, do spracovania rôznych úloh AI. Väčšinou ide o inferenciu, pri ktorej tieto počítače dokážu účinne pomôcť a zmierniť tak problémy spôsobené nedostatkom výpočtového výkonu.
Rozvoj AI v súčasnosti v zásade obmedzuje to, že neexistuje „nekonečné množstvo“ hardvérových zdrojov, ktoré by zabezpečili potrebný výpočtový výkon. Systém Minions od Apple na tento problém ponúka efektívnu a nápaditú odpoveď. V podstate ide o cloudovú „infraštruktúru“ založenú na GPU, určenú výhradne na interné úlohy. Týmto spôsobom sa dá výrazne skrátiť čakanie na spracovanie úloh AI: kým predtým museli na vhodné zdroje GPU čakať aj vyše 10 hodín, s novým systémom sa tento čas môže skrátiť na minúty. Minions totiž rozdeľuje väčšie úlohy na menšie časti, ktorých vykonávanie kontroluje Minions Watchdog. Pri spracovaní možno využívať open-source transformerové modely Hugging Face alebo prostredníctvom nástroja Ollama zapojiť veľké jazykové modely na generovanie textu. Obe možnosti sú dostupné všetkým interným Macom zapojeným do infraštruktúry Minions.
Základom fungujúceho systému je Minion Server, ktorý zhromažďuje úlohy, rozdeľuje ich na menšie časti a zveruje ich dostupným Macom, ktoré práve nie sú vyťažené. Na týchto počítačoch musí bežať aj aplikácia Minion Executor, ktorá si úlohy preberá cez REST API. Systém totiž nemá centrálny plánovač: po dokončení jednej úlohy si počítač prevezme ďalšiu. Jednotlivé čiastkové úlohy sa ukladajú do databázy PostgreSQL, odkiaľ si ich flotila Macov preberá a po dokončení posiela výsledky späť na server.
Počas spracovania sa, prirodzene, môžu vyskytnúť chyby. Zachytáva ich Minion Watchdog: jednotlivé Macy vo flotile každých päť minút odosielajú informácie o priebehu práce, takže sa rýchlo ukáže, ak sa nejaká úloha z určitého dôvodu nedokončila. V takom prípade sa čiastková úloha vráti do frontu a môže si ju prevziať ďalší Mac. Používateľ Macu môže ovplyvniť aj plánovanie úloh, teda vybrať tím alebo projekt, ktorého úlohy budú mať prednosť. Systém môže pracovať aj dynamicky a vykonávať dostupné úlohy postupne v poradí.
Zapojení zamestnanci dostali informácie o spracovaní úloh aj všetky potrebné pokyny, vďaka čomu bolo možné efektívne naplánovať prácu aj dostupnosť počítačov. Minions totiž funguje len vtedy, keď na Macoch beží Minion Executor, čo si vyžaduje vzájomnú koordináciu.
Metóda je nápaditá a efektívna, hoci aj v rámci jednej firmy vyvoláva určité otázky týkajúce sa spoľahlivosti a dôvernosti údajov. Tieto problémy sa výskumníci snažia riešiť tak, že úlohy prideľujú iba Macom v skupine, ktorá pracuje na danom projekte. Tieto počítače ich môžu spracúvať oddelene ako samostatná flotila a dostanú na to aj vlastnú databázu.
Vývoj systému Minions sa tým nekončí. V ďalšom kroku ho chcú výskumníci využiť aj na distribuovaný tréning modelov a potenciál vidia aj v nasadení vo väčšom meradle. Napríklad vo veľkých podnikoch by dostupné Macy mohli uvedeným spôsobom spracúvať vlastné firemné úlohy. Do úvahy prichádza aj vytvorenie veľkej globálnej komunity, v ktorej by sa do podobného systému zapájali používatelia ochotní vyskúšať niečo nové. Výpočtový výkon ich Macov by sa dal využívať rovnakým spôsobom, čo by umožnilo efektívnejšie a rýchlejšie spracovať množstvo úloh prispievajúcich k ďalšiemu pokroku. Táto možnosť však vyvoláva mnoho otázok. Keďže zatiaľ zostáva iba pri myšlienke, na vypracovanie konkrétneho systému si ešte treba počkať.
