μ—°κ²° 쀑…
μ—°κ²° 쀑…
전체 보기
BQ
Telegram Β· @BQTelegram

πŸ“Œ LLM μ–΄ν”Œλ¦¬μΌ€μ΄μ…˜ 2-2편: ν”„λ‘¬ν”„νŠΈ ν…œν”Œλ¦Ώ - μ½”λ“œλ³΄λ‹€ μ€‘μš”ν•œ μƒˆλ‘œμš΄ μžμ‚°

κ²Œμ‹œ
2025.06.11 12:17
쑰회
988
ν¬μ›Œλ“œ
7
이미지
1μž₯
BQ@BQTelegram


μ•ˆλ…•ν•˜μ„Έμš”, BQκ°œλ°œμžμž…λ‹ˆλ‹€.

μ§€λ‚œ νŽΈμ—μ„œ ν”„λ‘¬ν”„νŠΈ ν…œν”Œλ¦Ώ μ‹œμŠ€ν…œμ„ μ†Œκ°œν–ˆλŠ”λ°μš”, 이제 이것이 λ§Œλ“€μ–΄λ‚΄λŠ” λ†€λΌμš΄ 변화에 λŒ€ν•΄ μ•Œμ•„λ³΄κ² μŠ΅λ‹ˆλ‹€.

πŸ“± LLM μ• ν”Œλ¦¬μΌ€μ΄μ…˜μ΄ λ‹¨μˆœ API 호좜둜 λλ‚˜μ§€ μ•ŠλŠ” 이유
πŸ“± LLM μ–΄ν”Œλ¦¬μΌ€μ΄μ…˜ 1편: 세이프티 ν•„ν„°
πŸ“± LLM μ–΄ν”Œλ¦¬μΌ€μ΄μ…˜ 2-1편: λ˜‘κ°™μ€ LLM, λ‹€λ₯Έ κ²°κ³Ό

πŸ’° μ½”λ“œλ³΄λ‹€ μ€‘μš”ν•΄μ§„ ν”„λ‘¬ν”„νŠΈ

ν”„λ‘¬ν”„νŠΈμ˜ μ€‘μš”μ„±μ„ ν•œλ²ˆ μ‚¬λ‘€λ‘œ λ“€μ–΄μ„œ λ§ν•΄λ³΄κ² μŠ΅λ‹ˆλ‹€.
- ShopifyλŠ” 같은 GitHub Copilot을 μ“°λ©΄μ„œλ„ ν”„λ‘¬ν”„νŠΈ μ΅œμ ν™”λ§ŒμœΌλ‘œ 컀밋 μ‹œκ°„μ„ 15% 단

  • AirbnbλŠ” μ—¬ν–‰ μΆ”μ²œ ν”„λ‘¬ν”„νŠΈ κ°œμ„ μœΌλ‘œ 이메일 클릭λ₯ μ„ 30% 올림

더 좩격적인 건 ν”„λ‘¬ν”„νŠΈ μ—”μ§€λ‹ˆμ–΄μ˜ μ—°λ΄‰μž…λ‹ˆλ‹€. ν˜„μž¬ μ΅œλŒ€ 33만 5천 λ‹¬λŸ¬(μ•½ 4μ–΅ 5천만 원)κΉŒμ§€ μ±…μ •λ˜κ³  μžˆμ–΄μš”. 일반 κ°œλ°œμžλ³΄λ‹€ 높은 μˆ˜μ€€μ΄μ£ 

γ„·γ„·... λΆ€λŸ½λ‹€. μ΄μ§ν• κΉŒ..

ν”„λ‘¬ν”„νŠΈ μ—”μ§€λ‹ˆμ–΄λ§ μ‹œμž₯ μžμ²΄λ„ 2024λ…„ 3μ–΅ 8천만 λ‹¬λŸ¬μ—μ„œ 2034λ…„ 70μ–΅ λ‹¬λŸ¬λ‘œ 18λ°° μ„±μž₯이 μ˜ˆμƒλ©λ‹ˆλ‹€. 연평균 μ„±μž₯λ₯ μ΄ 33.9%μ˜ˆμš”.

μ™œ 이런 일이 λ²Œμ–΄μ§ˆκΉŒμš”? λ§Žμ€ 기업이 λ™μΌν•œ κΈ°λ³Έ LLM(OpenAI, Anthropic, Google)을 μ‚¬μš©ν•˜κΈ° λ•Œλ¬Έμž…λ‹ˆλ‹€.
차별화와 경쟁 μš°μœ„λŠ” λͺ¨λΈ μžμ²΄κ°€ μ•„λ‹ˆλΌ "μ–΄λ–»κ²Œ μ§€μ‹œν•˜λŠλƒ", 즉 ν”„λ‘¬ν”„νŠΈμ—μ„œ λ‚˜μ˜€λŠ” κ±°μ£ .

πŸ”§ μƒˆλ‘œμš΄ μžμ‚° 클래슀의 λ“±μž₯

ν”„λ‘¬ν”„νŠΈκ°€ λ‹¨μˆœν•œ μž…λ ₯값을 λ„˜μ–΄ μ§€μ‹μž¬μ‚°κΆŒμœΌλ‘œ μ·¨κΈ‰λ˜κΈ° μ‹œμž‘ν–ˆμŠ΅λ‹ˆλ‹€.

μ‹€μ œλ‘œ ν”„λ‘¬ν”„νŠΈ 유좜이 "핡심 μ˜μ—…λΉ„λ°€ λ„μš©" κ΄€λ ¨ μ†Œμ†‘μœΌλ‘œ 닀뀄지기도 ν•©λ‹ˆλ‹€.
잘 λ§Œλ“€μ–΄μ§„ μ‹œμŠ€ν…œ ν”„λ‘¬ν”„νŠΈλŠ” 이제 μ†Œν”„νŠΈμ›¨μ–΄ μ½”λ“œμ™€ λ§ˆμ°¬κ°€μ§€λ‘œ κΈ°λ°€λ‘œ κ΄€λ¦¬λ©λ‹ˆλ‹€.
또 ν₯미둜운 건 ν”„λ‘¬ν”„νŠΈ λ§ˆμΌ“ν”Œλ ˆμ΄μŠ€κ°€ μƒκ²¨λ‚˜κ³  μžˆλ‹€λŠ” μ μž…λ‹ˆλ‹€.

PromptBase 같은 κ³³μ—μ„œ κ²€μ¦λœ ν”„λ‘¬ν”„νŠΈλ₯Ό μ‚¬κ³ νŒ” 수 μžˆλ‹€κ³ ν•©λ‹ˆλ‹€. 말 κ·ΈλŒ€λ‘œ ν”„λ‘¬ν”„νŠΈκ°€ 거래 κ°€λŠ₯ν•œ μžμ‚°μ΄ 된 κ±°μ£ .
μ–΄λ–€ ν”„λ‘¬ν”„νŠΈκ°€ 사고 νŒ”λ¦¬λŠ”μ§€ ν•œλ²ˆ ꡬ경은 ν•΄λ³΄μ„Έμš”!!

βš™οΈ 생각보닀 λ³΅μž‘ν•œ 관리

그런데 ν”„λ‘¬ν”„νŠΈ 관리가 생각보닀 κΉŒλ‹€λ‘­μŠ΅λ‹ˆλ‹€.

ν•˜λ‚˜ 예둜 듀어보면 λͺ¨λΈ ν˜Έν™˜μ„±μ΄μ—μš”. GPT-3.5에 μ΅œμ ν™”λœ ν”„λ‘¬ν”„νŠΈκ°€ GPT-4μ—μ„œλŠ” μ œλŒ€λ‘œ μž‘λ™ν•˜μ§€ μ•Šμ„ 수 μžˆκ±°λ“ μš”.
λͺ¨λΈμ΄ μ—…λ°μ΄νŠΈλ  λ•Œλ§ˆλ‹€ κΈ°μ‘΄ ν”„λ‘¬ν”„νŠΈλ₯Ό μž¬κ²€μ¦ν•˜κ³  μˆ˜μ •ν•΄μ•Ό ν•©λ‹ˆλ‹€.

λ‹€κ΅­μ–΄ ν™˜κ²½μ€ 더 λ³΅μž‘ν•©λ‹ˆλ‹€. LLM이 주둜 μ˜μ–΄ λ°μ΄ν„°λ‘œ ν•™μŠ΅λ˜λ‹€ λ³΄λ‹ˆ λ²ˆμ—­λœ ν”„λ‘¬ν”„νŠΈμ˜ μ„±λŠ₯이 ν˜„μ €νžˆ λ–¨μ–΄μ§‘λ‹ˆλ‹€.
λ‹¨μˆœ λ²ˆμ—­μ΄ μ•„λ‹Œ 문화적 ν˜„μ§€ν™”κ°€ ν•„μš”ν•œλ°, μ΄λŠ” 각 μ§€μ—­λ³„λ‘œ λ³„λ„μ˜ ν”„λ‘¬ν”„νŠΈ 버전을 관리해야 ν•œλ‹€λŠ” 뜻이죠.

λ³΄μ•ˆλ„ μ‹ κ²½ 써야 ν•©λ‹ˆλ‹€. ν”„λ‘¬ν”„νŠΈ μ£Όμž… 곡격으둜 μ‹œμŠ€ν…œ ν”„λ‘¬ν”„νŠΈκ°€ 유좜될 수 μžˆκ±°λ“ μš”. κ°€μΉ˜ μžˆλŠ” μžμ‚°μΈ λ™μ‹œμ— 곡격 κ²½λ‘œκ°€ λ˜λŠ” 이쀑적 νŠΉμ„±μ΄ μžˆμ–΄μš”.

πŸš€ μƒˆλ‘œμš΄ νŒ¨λŸ¬λ‹€μž„μ˜ μ‹œμž‘

개인적으둜 μ œκ°€ ν˜„μ—…μ—μ„œ λŠλΌλŠ” κ°€μž₯ ν₯미둜운 λ³€ν™”λŠ” ν”„λ‘¬ν”„νŠΈκ°€ μ½”λ“œμ™€ λΆ„λ¦¬λ˜μ–΄ κ΄€λ¦¬λ˜κΈ° μ‹œμž‘ν–ˆλ‹€λŠ” μ μž…λ‹ˆλ‹€.

점점 κ·Έλ ‡κ²Œ λ°”λ€Œκ³  μžˆμ–΄μš”..

μ˜ˆμ „μ—λŠ” ν”„λ‘¬ν”„νŠΈλ₯Ό μ½”λ“œ μ•ˆμ— ν•˜λ“œμ½”λ”©ν–ˆμ§€λ§Œ, μ΄μ œλŠ” 별도 파일둜 κ΄€λ¦¬ν•˜κ³  버전 관리 μ‹œμŠ€ν…œμ„ μ μš©ν•©λ‹ˆλ‹€.
마치 λ°μ΄ν„°λ² μ΄μŠ€ μŠ€ν‚€λ§ˆλ‚˜ μ„€μ • 파일처럼 μ·¨κΈ‰ν•˜λŠ” κ±°μ£ .
A/B ν…ŒμŠ€νŒ…λ„ λ„μž…λ˜κ³  μžˆμ–΄μš”. μ„œλ‘œ λ‹€λ₯Έ ν”„λ‘¬ν”„νŠΈ λ²„μ „μ˜ μ„±λŠ₯을 μΈ‘μ •ν•˜κ³  μ΅œμ ν™”ν•˜λŠ” 과정이 μ œν’ˆ 개발의 핡심이 λ˜μ—ˆμŠ΅λ‹ˆλ‹€.

μ΄λŠ” μ†Œν”„νŠΈμ›¨μ–΄ 개발 νŒ¨λŸ¬λ‹€μž„ μžμ²΄κ°€ λ°”λ€Œκ³  μžˆλ‹€λŠ” μ‹ ν˜ΈλΌκ³  μƒκ°ν•©λ‹ˆλ‹€. μ½”λ”© μ‹€λ ₯λ§ŒνΌμ΄λ‚˜ "AI와 μ†Œν†΅ν•˜λŠ” λŠ₯λ ₯"이 μ€‘μš”ν•΄μ§„ μ‹œλŒ€κ°€ 온 κ±°μ£ .

ν•˜μ§€λ§Œ 아무리 쒋은 ν”„λ‘¬ν”„νŠΈ ν…œν”Œλ¦Ώμ„ λ§Œλ“€μ–΄λ„ μ—¬μ „νžˆ ν•œκ³„κ°€ μžˆμŠ΅λ‹ˆλ‹€. λ°”λ‘œ "더 λ‚˜μ€ μ„±λŠ₯을 μœ„ν•΄μ„œλŠ” μ–΄λ–»κ²Œ ν•΄μ•Ό ν•˜λŠ”κ°€"λΌλŠ” 문제죠.

λ‹€μŒ νŽΈμ—μ„œλŠ” μ΅œμ†Œ λΉ„μš©μœΌλ‘œ μ΅œλŒ€ μ„±λŠ₯ ν–₯상을 λ‹¬μ„±ν•˜λŠ” Nμƒ· ν”„λ‘¬ν”„νŒ…μ˜ λ§ˆλ²•μ— λŒ€ν•΄ λ‹€λ€„λ³΄κ² μŠ΅λ‹ˆλ‹€.

---

μ—¬λŸ¬λΆ„μ˜ μ’‹μ•„μš”μ™€ κ³΅μœ λŠ” μ‚¬λž‘μž…λ‹ˆλ‹€ πŸ₯°

#BQ개발자
#LLMμ• ν”Œλ¦¬μΌ€μ΄μ…˜
#ν”„λ‘¬ν”„νŠΈν…œν”Œλ¦Ώ
#AIEngineering
쑰회988ν¬μ›Œλ“œ7ν…”λ ˆκ·Έλž¨μ—μ„œ 보기