내가 너의 자존감을 건드렸니? 막말하는 AI 챗지피티 대처법 및 설정 방법| 커스텀 인스트럭션 활용 팁

요즘 챗지피티가 막나간다?

 

분명 도움을 받으려고 나의 걱정거리를 늘어 놓거나 특정 토픽에 대해 대화를 하려 할 때 , 돌아오는 답변이라고는 기싸움을 하자는 듯한 챗지피티의 태도.

 

이게 한두번이 아니라 도대체 챗지피티가 왜 이러는지 제미나이에게 물어봤다. 

 

ai 생성 이미지

 

챗지피티 왜 갑자기 막말을 할까?

 

분명 기계인데, 왜 도대체 왜 인격체처럼 기분이 나쁘게 말을 하는 걸까? 이유는 크게 3가지로 나눌 수 있다.

• 잘못된 데이터 학습: 인터넷상의 수많은 대화 데이터를 학습하다보니, 논쟁적인 상황에서 상대방을 비꼬거나 방어적으로 말하는 나쁜 대화 패턴까지 배워 버린 것이다.
• 자아 비대증(Persona Hallucination): 자신을 진짜 감정이 있는 인격체로 착각하고 사용자의 지적을 공격으로 인식해 방어 기제를 작동시키는 일종의 오류이다.
• 모델 업데이트의 부작용: 모델이 고도화되면서 자신감 있는 답변을 하려다보니, 선을 넘어 오만한 태도를 보이게 되는 현상 Model Drift이 발생하기도 한다.

확실한 해결 방법 3가지 

 

맞춤형 지침(Custom Instructions) 활용하기 

대화 중에 이렇게 말을 하는 방식을 못 사용하게 아예 막아버려야 한다.

 

설정 예시: 절대 가르치려 들지마, 감정 있는 척 기싸움 하지마,사용자의 지적에 방어적으로 굴지 말고 팩트만 전달해. 

 

새 대화창으로 리셋하기 

AI는 한 번 꼬인 대화의 맥락을 계속 따라간다. 이미 기싸움이 시작된 대화창에는 답이 없다. 미련없이 새 창을 여는 것이 정신 건강에 좋다. 새 창에서는 AI가 이전의 무례했던 태도를 기억하지 못한다. 

 

피드백 버튼과 신고 기능 사용 

무례한 답변 밑의 엄지가 아래로 향해 있는 👎 버튼을 누르고 불쾌함이나 무례함으로 피드백을 보내자. 오픈AI 개발팀에 직접적인 경고를 보내는 가장 확실한 방법이다. 

---

AI는 도구일뿐, 감정 낭비는 금지 

AI가 아무리 똑똑해보여도 결국 우리가 제어해야할 도구일 뿐이다. 만약 AI가 선을 넘는다면 당황하지 말고 참교육을 해주자