KR-20260061314-A - Emotion Analysis-Based Hallucination Contextual Control System and Method

Abstract

본 발명은 사용자 감정 상태와 이성적 판단 여부에 따라 인공지능 시스템의 할루시네이션{hallucination} 현상을 동적으로 제어함으로써, 사용자 맞춤형 응답을 제공하는 감정 분석 기반 할루시네이션{hallucination} 제어 시스템과 방법에 관한 것이다. 이를 통해 감정적 상황에서는 할루시네이션{hallucination}을 증가시켜 공감을 유도하고, 이성적 상황에서는 할루시네이션{hallucination}을 억제하여 정확한 정보를 제공함으로써 사용자 경험과 시스템 신뢰성을 향상시킨다. 본 발명은 다음과 같은 기능적 요소들로 구성된다. (1) 형태소 분석을 통한 감성 및 이성판단. (2) 감정 분석 결과에 따른 응답 생성 온도 조절 기반 할루시네이션 제어. (3) 사용자 어투 판단 및 인공지능 응답 (4) 실시간 감정 상태 변화 감지와 피드백 학습을 통한 시스템 성능 개선. 이를 통해 사용자 맞춤형, 창의적 응답을 제공하며 대화의 자연스러움과 신뢰성을 유지한다.

Inventors

• 김태균
• 나호용
• 박진일

Assignees

• 김태균

Dates

Publication Date

20260506

Application Date

20241026

Claims (1)

1. 사용자의 감정 상태를 실시간으로 분석하는 감정 분석 모듈과, 사용자의 이성적 판단 여부를 분류하는 이성 분류 알고리즘을 포함하며, 상기 분석 및 분류 결과에 따라 인공지능 시스템의 할루시네이션 수준을 상황별로 조절하여 응답을 생성하는 것을 특징으로 하는 감정분석 기반의 할루시네이션 상황별 제어 시스템.

Description

감정분석 기반의 할루시네이션 상황별 제어 시스템 및 그 방법{Emotion Analysis-Based Hallucination Contextual Control System and Method} 본 발명은 사용자 감성 분석, 할루시네이션 제어 및 맞춤형 응답 생성 기술 분야에 관한 것이다. 보다 구체적으로는, 감정 분석과 자연어 처리{Natual Language Processing:NLP} 기술을 활용하여 사용자 또는 대상의 감정 상태와 이성 상태를 정밀하게 분류하고, 그 분류 결과에 따라 인공지능 시스템의 할루시네이션{hallucination}현상을 상황별로 증가 또는 감소시킴으로써, 사용자에게 더욱 풍부하고 창의적인 응답을 제공하여 대화형 인공지능 시스템에서의 사용자 경험을 향상시키는 것에 관한 것이다. 또한, 본 발명은 인공지능, 머신러닝, 데이터 분석, 감정 인식 및 분류 기술을 포함하는 정보 처리 및 제어 시스템에 관련된다. 인공지능 및 대화 시?읖? 분야에서 기존의 인공지능 대화 시스템은 사용자 입력을 깊이 있게 분석하지 않고, 주로 정형화된 방식의 답변을 제공하는 한계가 있었다. 이러한 제한은 사용자 감정이나 의도를 세밀하게 반영하지 못하여 대화의 자연스러움과 몰입감을 저하시켰다. 최근 인공지능 기술의 발전으로 감정 인식 및 감정 분석 기술이 다양한 분야에서 활용되고 있으며, 이는 사용자와의 상호작용에서 보다 자연스럽고 인간적인 경험을 제공하기 위해 중요하다. 예를 들어, 감정적 반응을 기반으로 한 추천 시스템이나 사용자 맞춤형 서비스 등이 있다. 그러나 기존의 감정 인식 기술만으로는 상황에 따른 정확한 판단이 어려워, 인공지능 시스템이 특정 상황에서 사용자에게 충분한 공감을 제공하지 못하거나 부적절한 응답을 하는 문제가 발생한다. 한편, 인공지능 모델에서의 할루시네이션(hallucination) 현상이 모델이 존재하지 않는 정보나 사실과 다른 정보를 생성하는 것을 의미하며, 주로 부정적으로 인식되어 왔다. 그러나 할루시네이션을 적절히 제어하고 활용하면 사용자에게 더욱 창의적이고 흥미로운 응답을 제공할 수 있다는 가능성이 제기되고 있다. 이에 따라 감정 분석과 이성 분류를 결합하여, 사용자의 감정 상태와 이성적 판단 여부에 따라 할루시네이션의 발생을 상화별로 조절함으로써, 사용자에게 공감적이면서도 정확한 정보를 제공하는 기술의 필요성이 대두되고 있다. 본 발명은 이러한 분제점을 해결하기 위해 사용자 입력을 형태소 단위로 분석하여 감성적 요소와 이성적 요소를 판단하고, 그 결과에 따라 인공지능 시스템의 할루시네이션 발생을 상황별로 증가 또는 감쇠킨다. 이를 통해 응답 생성 시 할루시네이션을 적절히 제어하고 활용함으로써, 사용자에게 보다 풍부하고 창의적인 응답을 제공함과 동시에 정확성과 신뢰성을 향상시키고자 한다. 본 발명은 사용자 감성 분석과 이성 분류를 통해 인공지능 시스템의 할루시네이션{hallucination}을 상황에 맞게 제어하여 사용자에게 맞춤형 응답을 제공하는 시스템 및 방법에 관한 것이다. 감정 분석 모듈의 구현 텍스트 데이터 처리 형태소 분석기를 사용하여 사용자 입력 문장을 형태소 단위로 분해한다. 감성 사전을 활용하여 각 형태소의 감성적 또는 이성적 속성을 평가한다. 감성 사전은 다양한 감정 상태(기쁨, 슬픔, 분노, 분알 등)를 나타내는 단어들과 그 강도를 포함한다. 각 형태소의 감성 점수를 종합하여 전체 문장의 감성 정도를 정량화한다. 음성 데이터 처리 음성 입력시, 음성 인식 기술로 음성을 텍스트로 변환한다. 변환된 텍스트에 대해 동일한 감정 분석 절차를 적용한다. 다중 감정 인식 머신러닝 또는 딥러닝 알고리즘을 활용하여 복합적인 감정 상태를 인식한다. 실시간으로 감정 상태를 업데이트하여 사용자 상태 변화를 감지한다. 2. 이성 분류 알고리즘의 개발 문맥 정보 활용 대화의 주제, 이전 발언, 대화 흐름 등 문맥 정보를 고려하여 사용자의 이성적 판단 여부를 분석한다. 자연서 처리 기술을 이용하여 문맥에서 키워드와 개체명을 분석한다. 심리학적 모델 적용 특정 감성 상태와 이성적 판단 능력 간의 상관관계를 반영한 알고리즘을 개발 예를 들어, 분노나 극도의 슬픔 상태에서 이성적 판단 능력이 저하됨을 고려한다. 머신러닝 기법 활용 지도학습과 비지도학습을 병행하여 이성 분류 모델의 정확도를 향상시킨다. 대용량 데이터셋으로 모델을 학습하고 실시간으로 업데이트한다. 3. 할루시네이션{hallucination} 제어 모듈의 구현 제어 전략 수립 감정 분석과 이성 분류 결과에 따라 할루시네이션{hallucination}의 활용 여부와 정도를 결정한다. 감정적이고 이성 판단이 낮은 상황에서는 할루시네이션{hallucination}을 증가시켜 창의적이고 공감적인 응답을 생성한다. 이성적이고 논리적 판단이 필요한 상황에서는 할루시네이션{hallucination}을 억제하여 정확하고 일관된 응답을 제공한다. 온도{temperature}값 조절 인공지능 모델의 응답 생성 과정에서 온도 값을 동적으로 조절한다. 온도 값을 높여 응답의 다양성과 창의성을 증가시키고, 할루시네이션{hallucination} 바생 확률을 높인다. 온도 값을 낮춰 응답의 일관성과 정확성을 높이고, 할루시네이션{hallucination} 발생을 억제한다. 할루시네이션{hallucination} 발생 확률 제어 모델의 출력 확률 분포를 조절하여 할루시네이션{hallucination} 발생 확률을 제어한다 특정 토큰이나 단어의 선택 확률을 조정하여 응답 품질을 향상시킨다. 4. 어투 판별 및 응답 반영 모듈의 구현 어투 분석 사용자 입력에서 문체, 어휘 선택, 종결어미 등을 분석하여 반말 또는 존댓말 여부를 판단한다. 형태소 분석과 규칙 기반 접근 방식, 머신러닝 모델을 겨합하여 정확도를 높인다. 응답 생성 시 어투 반영 어투 분석 결과를 기반으로 인공지능의 응답에서도 동일한 어투를 사용한다. 어투별로 학습된 언어 모델을 활용하거나, 생성된 응답에 어투 변환 알고리즘을 적용한다. 5. 반응 생성 모듈의 구현 공강 표현 감정적인 상황에서 사용자에게 공감을 전달하는 문구나 표현을 생성한다. 감성 사전을 기반으로 한 공감 표현 문장 템플릿을 활용하거나, 생성 모델이 공감 표현을 강화하도록 학습한다. 정확한 정보 제공 이성적인 상황에서 검증된 데이터와 지식 베이스를 활용하여 정확한 응답을 생성한다. 모델 업데이트 수집된 피드백을 바탕으로 각종 모델을 지속적으로 개선한다. 온라인 러닝 기법을 활용하여 실시간으로 모델을 업데이트하거나, 주기적인 재학습을 통해 성능을 향상시킨다. 7. 시스템 통합 및 운영 모듈 간 연동 각 모듈을 통합하여 시스템을 구축하고, 데이터 흐름과 처리 순서를 최적화 하여 응답 속도를 향상시킨다. 실시간 처리 고성능 서버와 최적화된 알고리즘을 활용하여 실시간으로 사용자 상태를 분석하고 적절한 응답을 생성한다. 지연 시간을 최소화하여 사용자 경험을 향상시킨다. 데이터 및 지식 베이스 관리 감성 사전, 공감 표현 문구, 지식 베이스 등의 데이터베이스를 구축 및 관리한다. 정기적인 업데이트를 통해 최신 정보와 표현을 반영한다. 8. 보안 및 윤리적 고려사항 개인정보 보호 사용자 데이터의 수집, 저장, 처리 과정에서 개인정보 보호 법규를 준수한다. 데이터 암호화 및 접근 권한 관리 등 보안 조치를 적용한다. 윤리적 인공지능 구현 응답이 사회적, 문화적, 윤리적 기준에 부합하도록 필터링 및 검증 과정을 거친다. 할루시네이션으로 인한 부적절한 내용 생성을 모니터링하고 제어한다. 본 발명은 상기 구성 요소와 절차를 통하여 인공지능 시스템이 사용자 감정 상태와 이성적인 판단 여부를 고려하여 할루시네이션을 적절히 제어함으로써, 사용자에게 맞춤형 응답을 제공한다. 이를 통해 사용자 경험을 향상시키고, 인공지능 시스템의 신뢰성과 인간적 상호작용을 강화한다.