์—ฐ๊ฒฐ ์ค‘โ€ฆ
์—ฐ๊ฒฐ ์ค‘โ€ฆ
์ „์ฒด ๋ณด๊ธฐ
ํฌ๋ฆฝํ†  ๋ถ€์—‰์ด๐Ÿฆ‰
Telegram ยท @CryptoOwlNotice

๐Ÿ• ๋ผ๊ทธ๋ž‘์ฃผ, Engineering Updates

๊ฒŒ์‹œ
2025.08.24 19:45
์กฐํšŒ
342
ํฌ์›Œ๋“œ
0
์ด๋ฏธ์ง€
1์žฅ


๋ผ๊ทธ๋ž‘์ฃผ์˜ ์—ฐ๊ตฌยท๊ฐœ๋ฐœยท์—”์ง€๋‹ˆ์–ด๋ง ์ตœ์‹  ์†Œ์‹์„ ํ•œ๋ˆˆ์— ๋ณผ ์ˆ˜ ์žˆ๋Š” ๊ฐ€์ด๋“œ ๐Ÿ‘จ โ€๐Ÿ”ฌ

๐Ÿ“Œ 7์›” ์ฃผ์š” ์†Œ์‹
DeepProve๋Š” GPT-2 ์ „์ฒด ์ถ”๋ก  ์•”ํ˜ธํ•™์  ์ฆ๋ช…์— ์„ฑ๊ณตํ•˜๋ฉฐ ์„ธ๊ณ„ ์ตœ์ดˆ ํ”„๋กœ๋•์…˜ ๋ ˆ๋”” zkML ์‹œ์Šคํ…œ์œผ๋กœ ๋„์•ฝํ–ˆ์Šต๋‹ˆ๋‹ค.

๋‹ค์Œ ๋ชฉํ‘œ๋Š” LLAMA ํ˜ธํ™˜์„ฑ๊ณผ ๊ณ ์„ฑ๋Šฅยท๋Œ€๊ทœ๋ชจ LLM ์ฆ๋ช…์ž…๋‹ˆ๋‹ค.

โšก๏ธ DeepProve ์ฃผ์š” ์—…๋ฐ์ดํŠธ
ยท Computational Graph ์ง€์› โ†’ Transformer Residual ๋“ฑ ๋ณต์žกํ•œ ๋ชจ๋ธ ๊ตฌ์กฐ ํ˜ธํ™˜
ยท GGUF ํฌ๋งท ์ง€์› โ†’ Hugging Face ๋“ฑ ์ปค๋ฎค๋‹ˆํ‹ฐ ๋ชจ๋ธ๊ณผ ํ˜ธํ™˜์„ฑ ๊ฐ•ํ™”
ยท LLM Inference Engine ๊ตฌ์ถ• โ†’ ์˜คํ† ๋ฆฌ๊ทธ๋ ˆ์‹œ๋ธŒ ์ถ”๋ก  ๋ฐ ํ† ํฐ ๋‹จ์œ„ ์ฆ๋ช… ์ง€์›
ยท Transformer ํ•ต์‹ฌ ์—ฐ์‚ฐ ๋ ˆ์ด์–ด ์ถ”๊ฐ€ โ†’ Softmax, LayerNorm, GELU, QKV Attention ๋“ฑ

๐Ÿฅบ ํ˜„์žฌ ์ง‘์ค‘ ๊ณผ์ œ
ยท ์„ฑ๋Šฅ ์ตœ์ ํ™” โ†’ ์ฆ๋ช… ์†๋„, ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ๋Ÿ‰, ์ฆ๋ช… ํฌ๊ธฐ ๊ฐœ์„ 
ยท ์•”ํ˜ธํ•™์  ๊ฐœ์„  โ†’ Groth16 ๊ธฐ๋ฐ˜ PCS ๋ฒค์น˜๋งˆํฌ ๋ฐ Lookup Table ์žฌ์‚ฌ์šฉ ์ตœ์ ํ™”
ยท ๋ณ‘๋ ฌํ™” ๋ฐ ๋ถ„์‚ฐ ์ฆ๋ช… โ†’ DAG ๊ธฐ๋ฐ˜ ์—ฐ์‚ฐ ๋ณ‘๋ ฌ ์ฒ˜๋ฆฌ, ๋ฉ€ํ‹ฐ์ฝ”์–ด ํ™œ์šฉ, ๋…ธ๋“œ ๊ฐ„ ๋ถ„์‚ฐ ์ฆ๋ช… ์ง€์›

๐Ÿšถ โ€โ™‚๏ธ ๋‹ค์Œ ๋‹จ๊ณ„
ยท Meta LLAMA ์ง€์› ์ค€๋น„ โ†’ RMSNorm, SILU, Grouped Attention ๋“ฑ ์‹ ๊ทœ ๋ ˆ์ด์–ด ํ†ตํ•ฉ ์˜ˆ์ •
ยท ์„ฑ๋Šฅ ์ตœ์ ํ™” โ†’ proving ์†๋„ ํ–ฅ์ƒ, ๋ฉ”๋ชจ๋ฆฌ ์ ˆ๊ฐ, ๋ถ„์‚ฐ ์ฆ๋ช… ๋ฐ ๋ฉ€ํ‹ฐ์ฝ”์–ด ๋ณ‘๋ ฌํ™” ์ถ”์ง„

DeepProve โ€” verifiability for the AI era. ๐Ÿง 

๐Ÿ“ฑ ์›๋ฌธ ๋ณด๊ธฐ