다양한 챗봇을 단순히 사용만 하기에는 시대는 꽤나 빠릅니다. 각자 개인 업무에서도 활용하면 좋은 테크닉이 많으니 참고하시기 바랍니다.
예를 들면 이런 것입니다. 기본적으로 AI에게 그냥 질문을 하는 것보다 어떻게 하면 더 좋은 성능을 낼 수 있을까?
1. Few-shot Prompting: 유사한 질문과 답변을 미리 알려주고, 이런 식으로 답변하라 해본다
2. Chain-of-Thought: 문제 해결에 있어 하나씩 이유를 이야기하며 답변해보라 한다.
3. Self Consistency: 여러 답변 사례를 달라하고, 그 답변들에서 가장 일관된 답을 달라한다.
"펀더멘탈"이 뭐 큰 건 없습니다. 이런 대표 테크닉을 얼마나 잘 쓰느냐, 외부 문서 종류에 대해 얼마나 잘 파싱하느냐, 얼마나 다양한 유형의 데이터를 읽을 수 있느냐, RAG에 있어 외부 문서를 얼마나 임베딩 잘하고, 벡터 디비를 잘 쓰느냐, 검색할 때 랭킹 알고리즘을 얼마나 잘쓰느냐 등등...이런 하나하나 자잘한 모든 테크닉이 합쳐지면서 그래서 이걸 얼마나 비용 효율적으로 해결할 수 있느냐 까지 다 잘하면 펀더멘탈이 있는 팀입니다.
대부분 지금 DeFAI라고 불리는 팀들은 Closed-Source고, AI Agent Framework는 제일 기본버전이니 저에게 크립토 플젝들의 펀더멘탈을 질문주신다면 답변을 드릴 게 거의 없다고 할 수 있습니다.