당신은 구분할 수 있습니까?

 

 

(좌) 보리스 엘다크젠이 SWPA에 출품한 '전기공' 전체 모습 (우) 롱패딩을 입은 프란치스코 교황 '미국 온라인 커뮤니티 레딧 캡처'

 

왼쪽 사진은 '2023 소니 월드 포토그래피 어워드(SWPA)' 크리에이티브 오픈 카테고리 부문에서 1위를 수상한 작품입니다.

 

오른쪽 사진은 롱패딩을 입고 성 베드로 광장을 산책하는 프란치스코 교황의 모습입니다.

 

얼핏 보면 연관성 없어 보이는 두 사진에는 비밀이 숨어있는데, 혹시 눈치채셨나요?

비밀은 바로 두 사진 모두 AI가 만들어 낸 이미지라는 것입니다.

 

왼쪽 사진의 경우 심사위원조차 실제 사진이라 생각하고 평가한 작품이기에,

만약 결과 발표 이후 작가가 사실을 밝히지 않았다면 그대로 수상했을 수도 있었습니다.

(작가는 사진전에 AI 이미지 출품에 대한 준비돼 있는지 알아보기 위해 해당 작품을 냈다고 밝혔습니다.)

 

아마 지금 글을 읽고 계신 분들 중에서도 진짜 사진으로 오해하신 분들이 몇몇 계실 거라 생각되는데요,

그만큼 생성형 AI 기술이 대단하다고 느끼는 한 편 조금은 무섭다는 생각도 듭니다.

이 기술을 악용했을 때 우리가 정말 구별할 수 있을까 하는 우려 때문입니다.

 

 

제프리 힌튼

 

출처 : The New York Times

 

 

AI 4대천왕이라 불리는 제프리 힌튼은 AI의 위험성을 자유롭게 알리기 위해 구글 석학 연구원직을 내려놓으며 뉴욕타임스와 인터뷰를 진행한 바 있습니다. 인터뷰 내용 중 일부를 발췌해 보았습니다.

 

“Look at how it was five years ago and how it is now.”

“not be able to know what is true anymore.”

“I don’t think they should scale this up more until they have understood whether they can control it.”

 

정리하자면,

 

"AI 기술의 발전속도가 매우 빠르고, 진짜와 가짜를 구별하는 일이 어려워져 혼란을 야기할 수 있다. 이를 통제할 수 있을 때까지 AI의 개발/확장을 잠시 멈추는 게 좋겠다."

 

정도로 이해할 수 있을 것 같습니다.

 

비슷한 논지로 지난 3월 GPT-4.0이 출시되었을 때 일론 머스크를 비롯한 AI 관련 경영자, 연구자 등 1,300여 명이 한시적(6개월)으로 AI 개발을 중단하자는 요지의 서명을 하기도 했습니다.

 

 

ChatGPT

 

이에 대해 ChatGPT에 직접 아래와 같은 질문을 던져보았습니다.

"기술 발전으로 인류가 위험에 처하는 상황이 생길까? 혹은 과거에 비슷한 사례가 있었을까?"

 

 

 

ChatGPT(GPT4) 답변

 

 

원자력, 생물학과 더불어 AI가 인류에 위협이 될 수 있다고 순순히(?) 실토하는 모습입니다.

일부러 AI를 언급하지 않았는데도 AI를 예로 드는 것이 흥미롭습니다.

 

 

 

마치며

 

검이라는 무기를 상상해 보겠습니다.

검이라는 것은 끝에 손잡이가 있기 때문에 그걸 쥐고서 적을 공격할 수 있습니다.

만약 검의 날만 있다면? 아마 제대로 공격하지도 못할 뿐더러 오히려 자신에게 해만 입히게 될 겁니다.

 

오늘날의 AI는 날이 잘 선 검과 같습니다.

제대로 활용하면 그 어떤 것도 다 벨 수 있을 것 같습니다.

다만, 현재 AI를 통제할 수 있는 손잡이가 다소 헐거워 보이는 것이 사실입니다.

완벽한 손잡이가 나오기 전까지는 검의 날이 우리를 향하지 않도록 모두가 조심해야겠습니다.