https://festa.io/events/4739 [강남] 모두팝 세미나 | Gen AI Safety & Security | Festa! Festa에서 당신이 찾는 이벤트를 만나보세요. festa.io 이번 주제는 모두의연구소에서 주최한 [Gen AI Safety & Security] 오픈 세미나이다. 모두콘 이후로 플친이 된 나와 모두연.. 요새 개인연구&프로젝트로 LLM과 프롬프트를 한창 공부하고 있었는데 이런 세미나라니! 근데 신촌과 정반대 강남캠퍼스를 저시간에 가는건 무리라 온라인 수강을 하기로 했다. (지금 생각하니 신의 한 수임) 연구실 멤버들에게 같이듣자고 꼬시는중 일단은 나만 들은 것 같긴해 ... 아쉬움을 뒤로하고,, 오늘 주제는 휘발성이 꽤 강한 내용이라 간략히 정리만 해보려한다 목차..

출처: https://www.youtube.com/watch?v=BLM3KDaOTJM&list=PLQIgLu3Wf-q_Ne8vv-ZXuJ4mztHJaQb_v&index=3 https://www.youtube.com/watch?v=y6D5Hn_k4lE&list=PLQIgLu3Wf-q_Ne8vv-ZXuJ4mztHJaQb_v&index=5 API를 통해 ChatGPT와 대화하기 davinci-003 vs gpt-3.5-turbo: GPT 버전 차이(3과 3.5) temperature: chat-gpt가 내놓는 답변의 일관성을 조절하는 매개변수 0~2까지 설정 가능 0일 경우 답변이 일관적, 2일 경우 random하게 나오는 경향이 있음 callbacks의 streaming_stdout 내에서 streaming..

출처: https://youtube.com/watch?v=XwlLeVhWCCc LangChain의 구조 LLM 뿐만 아니라 자연어 형태로된 데이터 처리를 위해 현재 NLP(Natural Language Process) 모델의 거의 대부분은 Transformer 아키텍처를 기반으로 하며, 모델의 용도에 따라 트랜스포머의 Encoder, Decoder를 개별 또는 통합 사용하는 추세 기계와 말을 주고받기 위해 어떤 식으로 모델을 구성해야하는지 연구하다가 최종적으로 효율적이라고 판단한 구조가 바로 Transformer 모델이므로, 우리의 말을 '잘 이해하고', 의도된 대로 '대답을 잘 하는' 역할이 중요함 Encoder: 문장을 줬을 때 잘 이해하는 부분을 담당(분홍색) Decoder: 말을 잘 하는 부분(파..

출처: https://www.youtube.com/watch?v=WWRCLzXxUgs&list=PLQIgLu3Wf-q_Ne8vv-ZXuJ4mztHJaQb_v 정의 언어모델로 구동되는 애플리케이션을 개발하기 위한 프레임 워크 → 데이터 소스를 기반으로 이야기할 수 있도록 함, 구체적인 툴과 방법론을 제시하지 않아도 다양한 환경과 상호작용이 가능함 ex) 최근 LLM 동향을 알고 싶다면? 에이전트 기능을 이용해 어떤 요청을 넘겼을 때, 그것을 기반으로 어떤 툴을 활용해야할지 랭체인이 결정하여 인터넷 검색을 한다던가 등 함으로써 정제된 답변을 제공할 수 있음 데이터 인식: 언어 모델을 다른 데이터 소스에 연결 에이전트 기능: 언어 모델이 환경과 상호 작용할 수 있도록 함 왜 써야할까? 1) 정보 접근 제한 최..

오늘 이화여대 ECC에서 열린 모두콘 2023에 다녀왔다. 모두콘 2023 최근 생성형 AI 키워드가 워낙 핫하다보니 LLM 모델에 대하는 학계와 인더스트리의 입장이 과연 어떨지 정보를 얻을 목적이었다. 결론부터 말하자면, LLM 모델을 fine-tuning하여 각자의 니즈에 맞게 원하는 프로세스에 적용시킨다는 것이 핵심이었다. (업무든 서비스 제공 과정이든 고객경험 개선이든간에 프로세스 어디서든) 그 과정에서 문제점은 반드시 발생하기 때문에, 이를 해결하는 것 또한 중요. 이 글 제목을 ‘LLM과 현재’ 라는 제목으로 쓴 것도 (내맘대로지만) 오늘 들은 내용을 함축한 느낌이랄까 ㅋㅋ 세션 타임라인 키노트 세션 (1개 세미나) : 현재 인공지능 기술의 최전선에 있는 하정우 소장님을 한상기 대표님이 인터뷰..