Overman

최근에 아는 분에게 추천 받은 유투버 분 영상을 봤는데 거기 하나의 주제가 "사이코패스와 하루 종일 지내봤다" 와 관련된 내용이었다.거기서 나오신 분이 해주신 말이 자신들은 감정적 공유를 어려워 하기 때문에 인지적 공감을 한다는 것이다. 굉장히 신기한 방식이었다.예컨데, 그 영상에서 나온 예시로 누군가를 죽이지 않을 이유를 찾는다면 (법이나 행동의 제약이 없는 상황에서) 일반인의 생각은 생명을 빼앗는 것에서 불쾌함을 느끼고 증오하는 사람이더라도 (조금은 성숙한 사람이라면) 그들의 주변 사람들이 슬퍼함을 느낀다는 점에서 주저할 것이다. 하지만, 이 분들은 다른 방식을 사용한다. 자신들도 무언가에 찔리거나 할 때 고통을 느끼고 죽고 싶지 않다는 생각이 들기 때문에 저들도 비슷할 것이다. 라는 판단으로 그러한..

기계비평 2026. 4. 19. 10:50

요구 사항은 주제문 선정 로직에 Search Engine을 통하여 주제에 대하여 수집한 검색 URL 기반 맥락이 포함되어야 하고, 이와 더불어 Input Document 혹은 Vector DB에서 검색한 문서에 대한 맥락도 포함되어야 한다. 또한 이 파트를 비교적 큰 모델에 비하여 가벼운 모델로 돌렸을 때 비슷한 성능 혹은 빠른 속도 등의 장점이 있기를 바랬다. 그리하여 과정을 소개하게 되면, main_workflow -> sub_workflow로 연결하는 과정인 transform_to_sub과 transform_from_sub을 구현하여 sub_workflow와 main_workflow를 연결하였다.이후 light_weight_llm을 통하여 입력 문서에서 검색어를 선정하여 추출하였다.해당 추출된 검색..

딥러닝/졸업프로젝트_챗봇파트 2025. 12. 31. 13:06

우리 챗봇 로직에서 입력 문서와 쿼리 문, 기타 추가 정보 들을 통하여 주제문 선정을 해야하는데 맥락 등의 정보를 모두 확인해야 하고,llm의 사전 정보 주입량이 늘어나기 시작한다. (프롬프트 양이 커지면 모델도 커다란 모델을 사용해야 하고, 입력되어지는 정보에 의존하는 것이 컸으면 좋겠지만, 실제로는 llm 모델 자체에 기대하는 분량이 커질 것으로 예상된다. 가벼운 모델로 의사 분기를 하여 커다란 모델을 사용하는 것과 유사한 수준의 성능이 나왔으면 좋겠다.) 그러한 방법으로 활용할 첫번째는 주제문 선정 단계에서의 활용이다. 일단 로직에서 문서와 참고 문서, 쿼리문 등이 챗봇에 들어올 것이다. 여기서 (번호 - 노드)핵심 단어 선정 및 검색 쿼리 생성 (경량 llm 모델)네이버 검색 엔진 (병렬 처리)구..

딥러닝/졸업프로젝트_챗봇파트 2025. 12. 25. 12:26

챗봇에서 메인에 대한 워크플로우 작성을 완료하였다.graph = StateGraph(LangGraph_State)graph.add_node("dispatcher", dispatcher_node)graph.add_node("light_weight_llm", light_weight_llm_node)graph.add_node("heavy_weight_llm", heavy_weight_llm_node)graph.add_node("exception", exception_node)graph.add_conditional_edges( "dispatcher", decide_route, { "light_weight_llm": "light_weight_llm", "heavy_weig..

딥러닝/졸업프로젝트_챗봇파트 2025. 12. 25. 11:30

졸업 프로젝트에서 챗봇 파트가 있어 설계를 진행하였다. 1차로 문서가 들어왔을 때 챗봇의 제어를 통하여 부정문 선정을 진행하게 된다. (로직은 조금 더 자세하지만, 큰 틀로 볼 때)-> 이 부분에서 멘토님께서 확장 기능으로 문서나 사용자의 요구, 인터넷 검색 등의 Rag 혹은 context 사용 시, AI가 인지하고 분석한 데이터에 대한 Client를 향한 피드백을 주고 이에 대한 의사소통이 있으면 좋겠다고 말씀해주셔서, 이에 대해서 확장 가능하게 설계를 해야한다. (요구 사항으로 분리)-> 주제문 -> 부정문으로 가능 부분에서 조건 3 파트에서도 Ban_list에 문서 승인자의 개인적인 선호도 (청킹 단위 분석) 들어가기 위해서 저 부분에 대한 확장도 요구사항 가능성을 위하여 분리되어야 한다. 2차로 ..

딥러닝/졸업프로젝트_챗봇파트 2025. 12. 4. 11:43

아이맥스, 4D로 총 2번 봤다. 그리고 만화책으로도 찾아서 봤음 (아주 질리도록 봄) 나중에 확인하기 위한 후기 ! 후기 1차 : 광교 갤러리아 CGV 아이맥스초반부 (첫 시작)[IRIS OUT - 요네즈 켄시] 이 노래로 시작하는데 노래 개좋음, 신나고 뒤에 톱 달린 강아지(포치타) 춤추는 거 개귀여움초반 (마키마 데이트)체인소맨 안보고 가서 뭔 상황인지 이해가 안감마키마? 왜 데이트 하는데 영화만 하루 종일 보는 거지심장 박동 소리 듣는데 왜 킁킁 거리지 변태인가초반 (레제)왜 주인공이 뱉은 꽃 냄새를 맡고 좋아하지...? -> 이상한 애다 (직감)예쁘긴한데 여우같은 가시나수영장 씬 개이쁨서비스 씬? 그 학교에서 망상하는 부분 -> 여기 좀 부담스러웠음 중반 (불꽃 놀이 펑부터 - 중후반부 전투까지..

영화 2025. 10. 12. 12:26

IRCAN 논문 피드백 (재민이한테 받음 재민이 천재인 거 같음) 데이터 셋은 미국의 속담이 들어가게 됨한국의 속담을 예시로낫 놓고 기억 자도 모른다 라는 속담이 있다고 하면 기억에 마스킹이 되어 있고 이 부분을 예측한다고 한다. (질의문)여기서 기존 학습된 것에는 니은이 있다고 한다면 새로운 Input에 저 질의문 "낫 놓고 @@ 자도 모른다" 와 "기억" 이라는 것이 같이 들어가게 됨 (질의문 + 새로운 지식(문맥))코드를 보지 않고 생각만 하여서 정확히 어떤 느낌으로 예측을 진행하게 하는지 잘 파악하지 못했음이 부분에 대해서 단순히 (질의문만 들어갔을 때 활성화 되는 뉴런과 질의문 + 새로운 지식이 들어갔을 때의 차이) * alpha 의 식에서 alpha 0~1까지 적분 합이기 때문에 context..

딥러닝/자연어처리_학술대회 2025. 10. 7. 09:58

문제 상황 LLM 훈련 과정 - 엄청난 양의 지식 학습 - 지식 충돌 발생이미 학습한 오래된 / 잘못된 지식과 새로운 맥락에서 제공되는 정보가 서로 충돌해결책 : IRCAN 이라는 맥락 인식 뉴런 식별 및 재가중치 부여라는 의미의 프레임워크두 단계로 이루어짐맥락 인식 뉴런 식별맥락 처리에서 중요한 역할하는 뉴런 찾아냄Integrated gradients 기법으로 맥락 인식 기여도 점수 계산재가중치 부여식별된 맥락 인식 뉴런들의 가중치를 강화모델이 새로운 맥락 정보를 더 잘 반영하도록 함현재의 새로운 정보를 더 잘 받아들이도록 특정 부분을 강화시키는 방법-> FFN에서 찾아냄LLM은 부정확 / 구식 정보를 가지고 있을 수 있음이 문제를 해결하기 위해 RAG 같은 방법을 사용함최근 사건 지식이나 외부 DB..

딥러닝/자연어처리_학술대회 2025. 9. 27. 12:17