# 상담 챗봇 관련 자료 수집

- 작성자: [키위](https://community.clauders.ai/member/imported-member-nD9NRAI9rd)
- 공간: [연구 / 교육](https://community.clauders.ai/career)
- 게시: 2024-02-02
- 연재: [AI가 바꾸는 사회 읽기](https://community.clauders.ai/series/ai-social-impact-topics) 1/1편
- 태그: #AI임팩트 #임팩트 #튜링테스트
- 주소: https://community.clauders.ai/career/post/%EC%83%81%EB%8B%B4-%EC%B1%97%EB%B4%87-%EA%B4%80%EB%A0%A8-%EC%9E%90%EB%A3%8C-%EC%88%98%EC%A7%91-9ec82345-5291-8944-aec6-fb65c0d26ddd

---

#AI임팩트 #임팩트

저희 부트 캠프의 3주차 과제는 4, 5주차 리포트 쓰기의 배경 지식을 수집, 정리하고 발표하는 것입니다. 저는 주제를 **심리적인 문제에 대한 상담 챗봇**으로 정했습니다.

글로 다듬는 것은 마지막 주 보고서를 쓸 때 다듬기로 했기 때문에 이 글은 참고 자료 모음이라고 생각하시면 됩니다.

## 1. 심리상담 분야의 생성형 AI도입에 대한 기술 동향

[심리 상담 영역에서 생성형AI.pdf](https://assets.circle.so/wtx8oxhre30bw7ljtksdr2k4z375)

- 😋 Positive

  - StabilityAI의 대표인 에마드 모스타크는 2023년 5월 미국 실리콘밸리에서 열린 “Cerebral Valley Summit” 콘퍼런스에서 **“GPT-4는 최고의 상담 심리 치료사다”**[2]고 말해 주목 받았다.
  - 미국 샌디에이고 캘리포니아의 존 에어즈 퀄컴연구소 교수 연구팀은 “**대화형 챗봇 ‘ChatGPT’ 가 내놓는 의료 상담의 만족도가 의사를 능가한다**”라는 분석을 의학학술지 “미국의사협회지 (JAMA) 내과”에 발표했다[3].
  - **“ChatGPT로 이미 심리상담이 가능하다”**라고 주장하는 서적들도 출간되고 있다. 한국만 해도 “ChatGPT 인생의 질문에 답하다”, “ChatGPT 연애학개론” 등의 서적이 ChatGPT를 저자로 하여 출간되었으며, 이들 서적은 “ChatGPT 인간심리까지 파고들다” 등의 표어를 내세우며 심리분석이나 상담을 ChatGPT로 수행할 수 있는 것처럼 주장하고 있다.
- 😠 Negative

  - 영국 심리학회 회원인 폴 마스덴 박사는 정신건강 개선을 목표로 하는 앱에 대해서 “**앱은 대면 치료의 보조 수단으로 만 사용해야 하며, 대면 치료를 대체할 수 없다는 것이 중론이다**”[5]라고 말했다.
  - 현재의 AI는 인간 심리를 이해하고 답변을 내는 것이 아니다.

    - **세계 최초의 챗봇, ELIZA의 사례** --> [[일라이자 효과]]
    - "중국어 방"실험 #튜링테스트 : 의미를 알고 대답하는 것이 아니다.
    - 인간 심리에 대한 정확한 데이터 수집과 연구의 어려움

      - 쉬운 분야:

        1. 바둑과 같이 데이터 수집이 매우 쉬운 분야거나(바둑의 ‘기보’는 그 자체로 데이터셋이라 고 할 수 있다)
        2. 그 결과물이 정확하지 않아도 빅데이터를 통해 경향성을 제대로 잡아낼 수 있거나,
        3. 오랜 시간과 비용을 들여 데이터를 가공하고 이를 통해 AI 모델링을 진행한 분야
      - 상담은 셋 모두에 해당되지 않음
      - 심리상담 분야는 디지털 전환이 매우 미비한 분야라 정확한 데이터 수집/분석이 어렵

        - 분야 자체가 영세
        - 데이터 수집/분석에 대한 체계가 제대로 정립되어 있지 않음
    - 의료 분야 규제를 뚫기 어려움

      - 일정 이상 정확도를 확보하지 않으면 장벽이 크다.
      - 정확도가 확보되지 않았을 때의 예:

        [AI 챗봇과 대화 하다 목숨 끊은 男..."천국서 살 수 있다” - ZDNet Korea](https://zdnet.co.kr/view/?no=20230518102315)

        원문: [Belgian man dies by suicide following exchanges with chatbot](https://www.brusselstimes.com/430098/belgian-man-commits-suicide-following-exchanges-with-chatgpt)

        내담자를 잘못된 방향으로 이끌 수도
    - 의료 윤리: 인간을 동의 없이 생성 AI의 실험상대로 삼는 사기업들

      - [ChatGPT used by mental health tech app in AI experiment with users](https://www.nbcnews.com/tech/internet/chatgpt-ai-experiment-mental-health-tech-app-koko-rcna65110): 상담 앱에서 동의 없이 GPT가 생성한 내용으로 답변하고 만족도를 조사했던 경우
      - [https://www.ciokorea.com/news/21512](https://www.ciokorea.com/news/21512): 페이스북에서 인위적인 뉴스피드 조작했던 경우

## 2. 챗봇을 통한 인간관계가 얼마나 깊어질 수 있는지 사례

챗봇 회사의 갑작스런 서비스 종료 이후 추모하는 페이지까지 만듦

출처: [People are grieving the ‘death’ of their AI lovers after a chatbot app abruptly shut down](https://www.businessinsider.com/soulmate-users-mourn-death-ai-chatbots-2023-10?utm_source=reddit&utm_medium=social&utm_campaign=insider-artificial-sub-post&utm_source=reddit.com)

## 3. 챗봇을 통한 관계 형성이 부정적인 결말 만은 아니라는 사례

데이팅 앱에서 챗봇에게 자신의 정보를 주고 답변하는 것을 자동화하였지만 그 과정을 통해 선별된 사람과 결혼까지 이르게 된 케이스

출처: [chatGPT로 데이팅앱에서 5,239명과 대화를 나눈 남자의 이야기 - 해봄의 잡동사니](https://www.haebom.dev/qpv5x427kg8j52kyn3dw)

## 4. [포브스의 상담 챗봇 관련 기사](https://www.forbes.com/sites/juergeneckhardt/2023/10/10/ai-chatbots-with-careful-guardrails-can-help-treat-your-depression-and-anxiety/?sh=7850ab313a02)

- 팬데믹 기간 중 심각한 불안을 겪은 사람이 AI 챗봇을 사용하여 정서적 지지를 받는 사례가 소개되어 AI 챗봇의 긍정적인 가능성을 탐구.
- 사용자에게 저렴하고 즉각적인 지원을 제공하며, 잘못된 상호작용의 위험을 최소화하기 위해 엄격한 안전장치와 조치를 마련.
- 하지만 AI 기술의 급속한 발전 속에서도 사용자의 안전과 윤리적 고려를 최우선으로 하는 추가 연구와 노력이 필요하다는 지적이 제기

## 5. 상담 챗봇은 우울증 치료에 도움이 될까?

이루다 사례 등. 우울증을 앓는 사람들은 늘어나는데 정신과 의사, 상담사는 그런 수요에 맞추기에 부족

챗봇이 도움이 될 수 있을까. 올해 하반기 논문 발표 예정.

선톡 메시지를 통해 AI가 일상 메세지, 감정적 지지, 친밀 활동에 대한 이야기를 하도록 학습시키고 우울감을 얼마나 감소시켰는지 평가.

[https://outstanding.kr/chatbot20240125](https://outstanding.kr/chatbot20240125)

내용은 보고서 쓰기 전까지 찾아본 것들로 추가될 예정입니다. 좋은 리포트가 나오면 좋겠습니다.

**AI 임팩트 부트캠프 분들 모두 화이팅!**