Overman

Hidden Markov Model (HMM)에 관련한 질문 Q. 지난주 Hidden Markov model에 대해서 설명해주셨는데, 제가 이해하는 Markov model은 이전 단계의 결과만이(사실상 계산 도중에 이전 상태들의 연산이 포함된 것과 같지만) 다음 단계의 영향을 주는 모델입니다. Hidden Markov model은 model 형성 과정에서 인지하지 못한 state들의 영향을 받는 것으로 이해했습니다. 여기서 궁금한 부분이 생겼습니다. 만약 state n-1에서 생성한 단어가 a나 the와 같은 관사에 관련된 것이라면 그 다음 단계인 명사의 영향을 받는 것으로 예상되어지는데 이게 이전 상태는 아니기 때문에 hidden state 정보라고 생각됩니다. 근데 제가 이해한 markov Model..

딥러닝/자연어처리_학술대회 2025. 3. 28. 14:41

Q. Response를 generation으로 주는 것이 아니라 input을 generation output으로 주는 것이 훨씬 결과가 좋다고 말씀하심. 이게 무슨 의미이고, 어떤 말씀일까?A. Input을 Generation output으로 -> 사용자의 질문에 답하면서도 추가 질문이나 대화 방향을 제시-> 대화가 자연스러우며, 사용자의 의도나 필요 더 깊이 파악 가능 + 추가 설명 (Dialogue system은 turn을 계속하여 돌리게 되는데, turn을 돌릴 때마다 성능이 향상될 수 있다. Response을 Generation output으로 돌리는 게 더 좋을 수 있지 않나? => Dialogue system은 계속적인 interaction이 있어야 하기 때문에 추가적인 질문을 하는 것이 더 ..

딥러닝/자연어처리_학술대회 2025. 3. 28. 14:29

Nyquist's Sampling Theorem 신호의 최대 주파수의 2배 이상으로 샘플링하면 원래 신호를 완벽히 복원할 수 있다.- 나이퀴스트 주파수보다 높은 주파수 성분은 재구성된 신호에서 사라진다 -> 샘플링 속도가 충분히 높지 않으면 고주파 성분이 손실된다는 것을 의미한다 Oversampling / Undersampling오버 샘플링 : 나이퀴스트 주파수의 2배 이상으로 샘플링하는 경우 - 주파수 응답이 매 2π 주기마다 반복 - F_s = 1/T > 2F_N 일 때, 주파수 스펙트럼들 사이에 간격이 생겨 서로 겹치지 않음언더 샘플링 : 나이퀴스트 주파수의 2배 미만으로 샘플링하는 경우 - 주파수 응답이 서로 겹치게 되어 일부 정보가 손실 - F_s = 1/T  (a) 원본 신호 x_a(t)의 대..

딥러닝/음성인식 2025. 3. 21. 16:56

저역 통과 필터 (low-pass)- 차단 주파수 (fc) 이하의 낮은 주파수는 통과- 정지 주파수 (fs) 이상의 높은 주파수는 차단- 통과 대역(passband)과 정지 대역(stopband)이 표시 고역 통과 필터 (high-pass)- 차단 주파수 이상의 높은 주파수는 통과- 정지 주파수 이하의 낮은 주파수는 차단- 저역 통과 필터와 반대 특성을 가짐 대역 통과 필터 (bandpass)- 특정 주파수 범위(f1~f2)만 통과시킴- 중심 주파수 f0를 기준으로 일정 대역폭 (B.W.)의 신호만 통과- 대역 외 주파수는 차단 노치 필터 (notch)- 특정 주파수 범위 (f1~f2)만 차단 - 중심 주파수 f0를 기준으로 일정 대역폭 (B.W.)의 신호를 제거- 대역 통과 필터와 반대 특성을 가짐 (..

딥러닝/음성인식 2025. 3. 21. 15:50

Q. 신호를 변경하는 이유는?A. 다른 Domain의 신호를 이해하기 위해서- Spectral 구성요소의 분석이 가능하다.원본은 GIF였음- 움직임을 보면 5가지의 특징 움직임을 가진다- 기존 음성 그래프를 5가지의 합으로 표현한 형태 (vector) 5가지 색깔 원은 각각 다른 주파수와 진폭을 가진 복소 지수 함수 (sin / cos)- 각각 특정 주파수의 성분을 나타냄- 원의 크기는 해당 주파수 성분의 진폭을 나타냄- 원의 회전 방향과 속도는 해당 성분의 주파수- 원들의 중심을 연결한 선은 각 주파수 성분의 벡터 합을 보여줌 해당 주파수 성분을 모두 더하면 time domain 에 보이는 복잡한 파형이 만들어진다 FFT(Fast Fourier Transform)- Spectral Domain의 신호를..

딥러닝/음성인식 2025. 3. 20. 19:28

음성 신호는 연속적으로 변화하는 패턴 / 파형이다. 그리하여 연속적 신호를 샘플링하여야 컴퓨터를 통하여 활용할 수 있다.b(b)의 그래프를 보게 되면 점이 계속해서 찍혀있고 y축에 평행한 선들이 그어져 있는 것을 확인할 수 있다. 이처럼 연속적인 신호를 이산적 데이터로 샘플링 한 것을 알 수 있다. Nyquist's Sampling Theory (나이퀴스트 샘플링 이론)해당 식으로 확인 가능한 것은, 신호를 정확히 복원하기 위해서는 최고 주파수의 최소 2배 이상의 속도로 샘플링해야 한다는 것이다.그 이유는, 2배 이상으로 샘플링하지 않으면 aliasing 이라는 현상이 발생한다.해당 현상이 일어나면, 신호 왜곡(고주파 성분->저주파 성분으로 해석), 정보 손실(일부 주파수 성분이 손실), 겹침 현상 (주..

딥러닝/음성인식 2025. 3. 13. 21:04

여러 트랜잭션이 실행될 때 한 트랜잭션이 다른 트랜잭션의 연산에 영향을 받지 않도록 하는 정도를 말함.낮은 격리 수준은 동시 처리 능력을 높이지만, 데이터 일관성 문제를 발생시킬 수 있음.높은 격리 수준은 데이터의 일관성을 보장하지만, 동시 처리 능력이 떨어질 수 있음.즉, 데이터 정합성과 성능은 반비례한다. 트랜잭션 격리 수준은 개발자가 트랜잭션 격리 수준을 설정할 수 있는 기능을 제공하는 기능이다. 격리 수준에는 어떤 것이 있고 각각 어떤 특징이 있나? READ UNCOMMITTED, READ COMMITTED, REPREATABLE READ가 존재함 READ UNCOMMITTED는 커밋이 되지 않은 트랜잭션의 데이터 변경 내용을 다른 트랜잭션이 조회하는 것을 허용한다.또한 해당 격리 수준에서는 Di..

알고리즘, 백엔드/기술 면접 대비 매일메일 2025. 3. 11. 16:01

인덱스는 데이터베이스 테이블의 검색 속도를 향상시키기 위한 자료구조이다. (백과사전의 색인과 같음)저장되는 칼럼 값을 사용하여 항상 정렬된 상태를 유지하는 것이 특징이다.-> 이런 특징으로 인해 인덱스는 INSERT, UPDATE, DELETE의 성능이 희생된다는 것이 단점 (??) MySQL, InnoDB를 기준으로 B+Tree와 같은 변형 B-Tree 자료구조를 이용해서 인덱스를 구현한다.B-Tree 인덱스는 컬럼의 값을 변형하지 않고 인덱스 구조체 내에서 항상 정렬된 상태로 유지한다. 여기서 B-Tree란, 데이터베이스와 파일 시스템에서 널리 사용되는 트리 자료구조의 일종,이진 트리를 확장해 하나의 노드가 가질 수 있는 자식 노드의 최대 숫자가 2보다 큰 트리 구조.B 트리의 데이터 삽입과정은 다음..

알고리즘, 백엔드/기술 면접 대비 매일메일 2025. 3. 10. 12:14