Module 2 – AI Runtime Engineering · 2
Planuhon ang memory lifetime
15-minutong sesyon: pagbasa sulod sa 3 minutos, pag-trace sa 3, pag-eksperimento sa 7, ug pagtubag sa check sa 2. Paggahin og dugang oras kon gikinahanglan.
Adunay creation ug last-use point ang value sa execution graph. Gamita pag-usab ang buffer kon dili na gikinahanglan ang daang value ug walay asynchronous operation nga naggamit niini. Ilahi ang accounting sa weight, activation, workspace, ug cache. Kwentaha ang element count times bytes per element; idugang ang alignment ug overhead sa tinuod nga implementation.
Praktis ug ebidensiya: Tag-ana ang pananglitan o idrowing ang pag-usab sa state. Usba ang usa ka pagtuo, sulayi ang utlanan, ug itala ang aktuwal nga resulta. Ipasabot unsa ang wala mapamatud-i sa gamay nga modelo bahin sa production system.
shape=(4,8)
bytes_per_element=4
print(shape[0]*shape[1]*bytes_per_element)
Gipaabot nga resulta: 128
Praktis ug ebidensiya
Isulat ang tagna, aktuwal nga resulta, ug hinungdan sa pagkapareho o kalainan. Ang completion check mosukod sa pagsabot; ang practice task mopauswag sa kahanas.
Reperensiya sa pinulongan: git.agilaos.com
Reperensiya sa pinulongan: onnx.ai
Pananglitang code sa Agila Forge ↗
Kompletoha kini nga leksiyon
Tubaga og husto ang matag pangutana aron makuha ang sertipiko sa leksiyon. Gamita ang puna sa pagrepaso ug pagsulay pag-usab.
Pag-sign in · I-save ang imong pag-uswag ug pagkuha og sertipiko alang niini nga leksiyon.