Sulautettujen järjestelmien tekoälyteho kasvaa tasolle, jolla erillistä AI-kiihdytinkorttia ei enää välttämättä tarvita. Congatecin uusi COM-HPC-moduuli yhdistää AMD 16-ytimisen prosessorin, tehokkaan grafiikkaytimen ja 50 TOPSin NPU samalle kortille.
Conga-HPC/cRX1-moduuli perustuu AMD Ryzen AI Embedded X100 -sarjan suorittimiin. Yhtiö tähtää sillä erityisesti robotiikkaan, autonomisiin työkoneisiin, teollisuusautomaatioon ja muihin niin sanotun fyysisen tekoälyn sovelluksiin.
Tehokkaimmassa Ryzen AI Embedded X199 -versiossa on 16 Zen 5 -ydintä ja 40 laskentayksikön Radeon RDNA 3.5 -grafiikka. GPU yltää valmistajan mukaan 59 TOPSin INT8-suorituskykyyn ja 29,7 teraflopsiin FP32-laskennassa. Sen rinnalla XDNA 2 -NPU tarjoaa enimmillään 50 TOPSin tekoälytehon.
Congatecin mukaan kokonaisuus on niin tehokas, että monissa sulautetuissa AI-järjestelmissä erillinen tekoälykiihdytinkortti voidaan jättää kokonaan pois. CPU voidaan varata esimerkiksi reaaliaikaiseen ohjaukseen, sensorifuusioon ja päätöksentekoon, GPU konenäköön ja muuhun rinnakkaislaskentaan ja NPU jatkuvasti käynnissä oleviin neuroverkkotehtäviin.
Myös paikallisten suurten kielimallien eli LLM-mallien suorittaminen on mahdollista. Moduulille saa jopa 128 gigatavua LPDDR5X-8533-muistia, joka on CPU, GPU ja NPU käytettävissä yhtenäisenä muistina. Tallennustilaa voidaan integroida 512 gigatavua NVMe-muistina.
COM-HPC Client Size C -moduulin koko on 120 × 160 millimetriä. Tehonkulutus voidaan konfiguroida 45–120 watin alueelle. Teollisuusversiot toimivat –40… +85 asteen lämpötiloissa, ja juotettu muisti parantaa tärinän- ja iskunkestävyyttä.
Liitäntöihin kuuluu muun muassa 24 PCIe Gen4 -linjaa, kaksi 2,5 gigabitin Ethernet-liitäntää sekä USB-, SATA-, I²C-, UART-, GPIO-, SMBus- ja SPI-liitännät. Moduuli tukee Windows 11ä ja Linuxia sekä Congatecin virtualisointiratkaisuja, joilla samalla laitteistolla voidaan ajaa esimerkiksi reaaliaikaista ohjausta, käyttöliittymää, tekoälyä ja IoT-yhdyskäytävää.
Tekoälypalvelinten kasvava tehotiheys tekee datakeskusten varmistamisesta aiempaa monimutkaisempaa. Ylimääräiset teholähteet voivat parantaa käyttövarmuutta, mutta samalla ne lisäävät lämpökuormaa ja häiritsevät ilmavirtoja. Siksi tehonsyöttö, varmennus ja jäähdytys on suunniteltava yhtenä kokonaisuutena.