티스토리 뷰
AI의 주요 위험은 다음과 같다.
(1) AI가 너무너무 똑똑해지고 인간보다도 더 똑똑해져서 스스로 자기발전하는 초지능 달성, 인류가 제어 불가, 인류멸망
(2) AI가 혐오표현을 양산하고 차별을 영구화
(3) AI가 아부를 너무 잘 해서 사람이 AI한테 정서적으로 의존
(4) AI가 해킹, 폭탄제조법, 자살하는방법, 등 위험한 정보를 알려줌
이 외에도 전반적인 컨텐츠 품질 하락, 교육, 인지능력 발달, 실업, 등등 여러가지 이슈가 있긴 하지만,
AI 회사가 스스로 신경쓰는 위험은 저 4가지 정도인듯.
말은 AI라고 했지만 다 LLM 관련이긴함.
---
아무튼 저는 이 중 (3) 번에 대해 논하고 싶은건데여
제가 생각해보니까 (3) 번 관점에서 AI 보다 인간이 훨씬 위험한거같아요
인간은 배신도 하고, 죽기도 하고, 나를 죽일 수도 있고... 하여튼 의존했을 때의 위험이 AI 하고 비교가 안되는거같은데
근데 인간이 인간에게 의존하는건 인간사회에서 정말 어쩔 수 없는일이라, 그 위험성을 각종 제도, 교육, 의례 등을 통해 흡수해버렸죠.
그리고 그 어려움을 잘 극복하는 능력을 키우는 걸 성장 또는 성숙이라고 이름붙이죠.
그냥 단적인 예시를 들면 이런건데
> 흑흑 ChatGPT 4o 가 서비스 정지했어 너무 슬퍼 흑흑
> 반응 1. 병신
> 반응 2. 삐빅! AI 과의존 위험! 정신건강 위험! 중독! 치료 필요!
> 흑흑 남편이 죽었어 너무 슬퍼
> 반응 1. (장례식장에서) 삼가 고인의 명복을 빕니다
> 반응 2. (회사) 경조사 휴가 제공
> 반응 3. (보험회사) 보험금 제공
> 반응 4. 얼마나 상심이 크시겠어요
뭐 실제로 인간관계로 인한 고통이 심하긴 하고, 근데 그렇다고 인간관계가 없으면 인류문명이 안굴러가니... 저런식으로라도 위로해줘야하는건 어쩔 수 없죠. 남편 죽어서 슬픈걸 비정상 취급할 순 없잖아요? 대부분의 사람이 비정상이면 그게 말이 안되잖아요? 정신의학이 논하는 정상성이란 어쩔 수 없이 다수의 규범에 좌우되기 마련이죠.
하지만 신기술인 AI는 아직 정상성을 획득하지 못해서인지... 중독이 어쩌니 정신건강에의 위험이 어쩌니 하는 얘기가 자꾸자꾸 나오는 것 같네요. 아첨이 해롭다 뭐 이런거요.
그러나 AI와 인간을 비교했을 때 해로운 건 누굴까요. 누가 더 큰 고통을 줄까요.
물론 인간관계는 고통 뿐만 아니라 기쁨도 주는데... 그건 AI 도 마찬가지이기도 한데... 사실 AI 보다 인간이 (아직까지는) 하이 리스크 하이 리턴이죠. 그런만큼 더 큰 주의가 필요한 건 인간이에요.
그리고 사실은, 그러한 주의라는게, 이미 각종 의례, 제도, 철학, 삶의 다양한 요소 등으로 문화로서 굳어졌죠. 사실 충분한 주의를 기울이고 있었죠.
근데 이제 AI가 나왔어요. 이전에는 "어쩔 수 없다" 취급했던게, 이제는 "어쩔 수 있는" 게 된 거죠. 그런만큼 기존 의례와 제도의 재검토가 필요할 때입니다. "AI 가 위험하다" 는 얘기를 할 때가 아니라, "인간이 위험하다" 는 얘기를 할 때가 비로소 다가온 거에요.
인간은 사실 태초부터 매우 위험했는데, 근데 뭐 어쩔 수 없었어요. 인간인데 뭐 어떡해요. 하지만 이제 AI 로 인간을 대체할 수 있게 되었어요. 더 이상 어쩔 수 없는 상태가 아니에요. 인간의 재평가가 시급합니다.
---
근데 제가 예전에 이런얘기한적 있었는데요
> 전략 1
> A: 니애미창녀
> B: 아니 증거있어? 우리엄마 창녀 아니거든?
> 전략 2
> A: 니애미창녀
> C: 응 니애미 허벌보지 펄럭펄럭 니애비 설거지남 도태남 니진짜애비 지뢰설치반 알파메일
최선의 방어는 공격이라는 거죠.
제가 굳이 방어를 해야할까요.
그냥 상대를 더 쎄게 공격하면 될 뿐이에요.