Open AI의 몇몇 멤버들이 나와서 창업한 TYPESAFE AI의 의사결정 모델입니다.
아래는 AI가 간단하게 정리해준 내용 ^^
Jev(제브)는 TypeSafe AI가 공개한인공지능 의사결정 모델(Decision AI)입니다. 일반적인 대규모 언어 모델(LLM)과 달리 문장을 생성하지 않고, 소프트웨어가 즉시 처리할 수 있는구조화된 판단 결과와 확률을 반환합니다.
※ 주요 특징 및 작동 방식
텍스트 생성 없음: 요약, 번역, 챗봇 대화 등 긴 문장을 만드는 기능이 없습니다.
3가지 기본 질문 유형 (Primitive):
Choice: 여러 선택지 중 하나를 고르고 확률 분포와 신뢰도를 반환.
Score: 2~10단계 등의 척도에서 기대값 점수를 반환.
Noul: '예/아니오' 성격의 명제가 참일 확률(0~1 사이의 소수)을 반환.
병렬 처리 및 속도: 하나의 입력 상태(State)에 대해 여러 질문을 동시에 독립적으로 평가할 수 있어 매우 빠릅니다.
결국은 기존 LLM처럼 글을 만들어주지 않고 3가지 타입의 값으로 결과를 만들어 줍니다.
일단 이걸 어디다 쓸가 고민하다가 제가 개인적으로 사용중인 주식관련 웹 페이지에 적용해 보았습니다.
어떻게 ?
정성적 데이터를 정량적 데이터로 바꾸는데 탁월한 AI
바로 주식 뉴스입니다.
원래는 아래처럼 현재 지수표시와 투자 종목의 수익률 (지금 마이너스 수익률입니다.ㅠㅜ)을 표시해줍니다.
그리고 오늘의 주식 뉴스를 40개 표시합니다.
그런데,맨날 볼때마다 이걸 다읽기도 그렇고 그래서 주식에 좋은거야 나쁜거야 그걸 한눈에 파악하기도 힘들었습니다.
그래서 여기에 3가지를 기준으로 각 뉴스를 평가해보았습니다.
뉴스에 3가지 기준으로 평가, 호재/악재 , 경기전망, 주가영향
뉴스 한 건에 판단 보류 배지가 붙는 경우는 아래 셋입니다.
호재·악재 확신이 50% 미만일 때
경제·기업·시장 뉴스가 아니라고 볼 때(
not_news)Jev 응답이 선택지·확률 검증에 실패했을 때. 이 경우는 저장하지 않고 다음에 다시 판단합니다.
이 배지가 붙으면 경기 전망과 주가 영향 태그도 함께 빼니다.
차트에서 항목별 판단 보류는 그 축의 태그가 없을 때입니다. 기사 전체가 보류인 경우와, 아래처럼 그 점수만 확신이 부족할 때가 같이 들어갑니다.
경기 전망 확신 60% 미만
주가 영향 확신 60% 미만
관심종목 뉴스에서 그 종목을 다룬 정도가 0.5 미만이면 주가 영향만 보류
점수가 0.5와 1.5 사이이고 확신이 60% 이상이면 보류가 아니라 중립입니다.
이게 올바른 기준인지는 모르겠지만 제가 알고싶은 정보라 ㅋ
표시했더니 이렇게 나옵니다.
그리고 모아진 뉴스가 40개인데 다시 이걸 분포로 알아보는 차트를 만들었습니다.
그랬더니 뉴스의 전체 경향이 한눈에 들어오네요.
경기전망과 주가영향은 아래와 같이 점수를 매깁니다.
JEV가 좋은건 일단 빠르다는 겁니다.
기존 LLM은 응답이 생각보다 빠르지 않습니다.
뉴스를 가지고 오는 것도 느린데, 뉴스 하나하나를 일반 LLM으로 평가하면 다 보는데 시간이 너무 많이 걸리는거죠.
그리고, 비용도 높아질 겁니다.
그런데,JEV는 싸고, 진짜 빠르네요 ㅋ
결국은 너무너무 좋다입니다.
우리의 업무 대부분은 이렇게 케이스로 평가하는것이 많습니다.
이 구조를 잘 다루면 빠르게 반응하는 업무자동화 에이전트를 만들 수 있겠네요.
앞으로 더 적용에 관한 내용을 연구해볼께요. ^^