Carat Thinker

최근의 LLM 소식을 들여다보면 많이 접하는 용어를 가볍게 정리해보았습니다. AI AgentAgent는 직역하면 대리인입니다. AI Agent는 인공지능이 복합적인 맥락을 고려할 수 있도록 설계된 일종의 '대리인'입니다. 시스템적으로 이야기하자면, AI Agent는 사용자의 개입없이 자율적으로 작동하는 지능형 시스템입니다. 기존의 단순 자동화를 넘어 환경을 이해하고 스스로 학습한다는 것이 특징입니다.정의된 규칙을 기반으로 작동하던 AI는 환경 변화에 적응하지 못하고, 정형 데이터만 다룰 수 있다는 한계가 있었습니다. 그러나 AI Agent는 맥락을 이해하고 학습하여 복잡한 문제를 해결할 수 있게 되었습니다.AI Agent의 필요성이 대두된 배경은 팬데믹입니다. 원격 근무와 디지털 전환에 적응하면서도 생산..

DeepSeek가 출시되었습니다.DeepSeek가 화제가 된 이유는 크게 두 가지입니다.첫 번째, ChatGPT와 비슷한 성능을 내지만 훨씬 저렴합니다. 전체 파라미터가 아니라 필요한 파라미터만 활성화시키고, 멀티 토큰 시스템을 도입하여 처리 속도를 향상시켰습니다. 그 결과, GPU와 훈련 비용을 절감했습니다.두 번째, 오픈 소스입니다. 기존의 생성형AI 들은 코드를 잘 공개하지 않았습니다. 막대한 비용이 투입된 회사의 프로젝트이기 때문에 기밀을 유지하는게 보통인데, deepseek는 코드 전체를 공개했습니다.그러나 대만이나 홍콩, 시진핑과 관련해서는 올바른 답변을 내놓지 않아서 윤리적 이슈가 대두되기도 했습니다. 오늘은 deepseek와 chatgpt의 사용 후기를 비교해보려고 합니다. 비교 대상현재의..

카카오에서는 매년 개발자 컨퍼런스를 진행합니다. 오프라인 행사는 근무로 가지 못했지만, 감사하게도 온라인으로 다시보기가 열렸습니다. 관심있는 세션을 몇 개 듣고 내용을 정리해보았습니다. if(kakaoAI)2024모든 연결을 새롭게if.kakao.com 나의 컨텍스트를 아는 친구, Context-Aware AI Mate요약감정, 상황과 맥락, 적절한 반응 = context awareMemory : 인간의 기억 방식 = 감각 기억 → 단기 기억 → 장기 기억단기 기억에서는 chunking을 통해 정보를 의미있는 묶음으로 만든다장기 기억에서는 의미 기억을 통해 연관된 기억을 활성화시킨다Mate memory : 감각 기억 → short term → long termshort termThread memory :..

생성형 AI의 발전으로 프롬프트 엔지니어링의 중요성도 커지고 있습니다.세계적인 컴퓨터 과학자, 앤드류 응은 OpenAI와 함께 프롬프트 엔지니어링 방법에 대한 무료 강의를 열기도 했습니다.오늘은 해당 강의를 summary한 Medium 아티클을 번역/의역해보고, 강의를 들어보려구요.아래 링크는 원문 Medium 아티클입니다. OpenAI and Andrew Ng’s ChatGPT Prompt Engineering Course: Guidelines and SummaryLearn How to Create Effective Prompts for ChatGPTmedium.com 프롬프트 엔지니어링의 중요성높은 수준의 답변을 위해서 프롬프트 엔지니어링은 필수적입니다.좋은 프롬프트는 AI가 정확하고 관련도가 높은 ..