AI Runtime Engineering

Module 1 – AI Runtime Engineering · 1

Page 1 of 3 · Mga 15 minutos matag leksyon, apil ang praktis.

Unsa ang buhat sa AI runtime

15-minutong sesyon: pagbasa sulod sa 3 minutos, pag-trace sa 3, pag-eksperimento sa 7, ug pagtubag sa check sa 2. Paggahin og dugang oras kon gikinahanglan.

Ang model naghulagway sa parameter ug operation. Ang runtime mo-load ug mo-validate sa shape ug type, mo-allocate og memory, mo-schedule, ug mo-execute og kernel. Lahi ang training ug inference. Sugdi sa gamay nga deterministic calculation nga masusi sa kamot sa dili pa acceleration.

Praktis ug ebidensiya: Tag-ana ang pananglitan o idrowing ang pag-usab sa state. Usba ang usa ka pagtuo, sulayi ang utlanan, ug itala ang aktuwal nga resulta. Ipasabot unsa ang wala mapamatud-i sa gamay nga modelo bahin sa production system.

x=[2.0,3.0]
w=[0.5,2.0]
bias=1.0
y=sum(a*b for a,b in zip(x,w))+bias
print(y)

Gipaabot nga resulta: 8.0

Praktis ug ebidensiya

Isulat ang tagna, aktuwal nga resulta, ug hinungdan sa pagkapareho o kalainan. Ang completion check mosukod sa pagsabot; ang practice task mopauswag sa kahanas.

Reperensiya sa pinulongan: git.agilaos.com

Reperensiya sa pinulongan: onnx.ai

Pananglitang code sa Agila Forge ↗