• List
  • Down
  • Up
  • Write
  • Search
IT

"100년 안에 인간 멸망시킬 가능성 99.9%"…섬뜩한 경고 날린 美 교수

카스타드 카스타드
110 5 5
출처 https://www.asiae.co.kr/article/2024060519171516139

버그 없는 복잡한 프로그램 만들 수 있나"

인공지능(AI)이 1세기 안에 인간을 멸종시킬 가능성이 99.9%에 달한다는 학계의 전망이 나와 관심이 쏠린다.

 

4일(현지시간) '비즈니스 인사이더' 등 외신은 로만 얌폴스키 루이빌대 사이버보안연구소 교수의 발언을 인용해 "미래엔 AI가 인간을 반드시 해칠 수 있다"고 보도했다.

1.jpg


[이미지출처=아시아경제DB]

원본보기 아이콘

 

얌폴스키 교수는 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년간 버그 없이 매우 복잡한 소프트웨어를 만들 수 있는지에 달려 있을 것"이라고 설명했다. 즉 AI가 잘못된 판단을 내리지 않도록 안전장치를 마련하는 게 중요하다는 뜻이다. 그는 "AI 모델이 의도하지 않은 작업을 안전하게 수행하도록 만들 수는 없기에, 사고를 피할 가능성은 작다"고 경고했다.

 

이어 "AI는 이미 실수를 저질렀다. 사고, 탈옥을 경험하기도 하고, 개발자가 의도하지 않은 일을 성공적으로 수행한 대형언어모델(LLM)은 하나도 없을 것"이라고 강조했다.

 

그러면서 "인공일반지능(AGI)이 출연하면 문제는 더 커질 것"이라며 "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측하는 건 더 어렵다"고 덧붙였다.

얌폴스키 교수는 이런 전망에 따라 앞으로 인류의 운명은 세 가지 가능성으로 압축할 수 있다고 덧붙였다. ▲AI가 인류를 멸종시키는 상황 ▲AI로 인해 모두 극심한 고통을 받는 상황 ▲모든 인간이 목적을 완전히 상실하는 상황이다.

 

결국 AI의 잠재적 위험을 줄이는 방법은 신뢰할 수 있는 안전장치를 개발하는 것이다. 이에 대해서는 AI 산업계 일선에서도 목소리가 나오고 있다. 매체에 따르면, 현재 생성형 AI 분야에서 가장 앞서 나간 오픈AI 및 구글 전 현직 직원들이 AI의 급속한 발전을 우려하는 성명을 발표했다.

 

이들은 "AI의 위험성은 원활하게 공유돼야 한다"며 "기업 내부 규제는 이윤 추구 목표 때문에 제대로 된 감독을 할 수 없다. 일반적인 내부고발자 보호도 불법 행위에 초점이 맞춰져 있으며, 우리 중 일부는 업계 전반에 걸쳐 고발 사례의 역사를 고려할 때 다양한 형태의 보복을 두려워한다"고 호소했다.

카스타드 카스타드
62 Lv. 78863/79380EXP

제 1회 디렘프로배 황금귀 선발 대회 준우승

ANKER 리버티3프로EQ콘테스트 입상




좋아하는 이어폰

 

에티모틱

 ER4SR, ER4XR 등 er시리즈와 mk5
 

수월우 

S8,A8
블레싱 1,2,2DUSK,3

뉴아리아,스타필드,KXXS,카토

츄2,란

 

 

고막이베이어요(오픈형 이어폰 개인제작자)

바이오,바이오 v2

썬,마스,어스,문

베이직

등등

 

 

소니 IER M7
 

씨오디오 
카구야,ANOU,브레이버리 RED,BLUE,RED+BLUE,

유메 미드나잇 ,유메

 

 

 

탠치짐 


나노,(구)하나
텐야,제로


 

쇼어 S12

 

7hz 타임리스 AE ,레가토

심갓 ea500

탕주 상관완아,두보

하이디션 t100

유코텍 re1 pro

등등



좋아하는 헤드폰

고막이베이어요 자작(고라도?)
젠하이저 

HD600,HD650(6XX)모멘텀4 트루와이어리스,HD660S,HD599(SE)

ReportShareScrap
숙지니 숙지니님 포함 5명이 추천

Comment 5

Comment Write
profile image
나성행급행열차
뭔가 터미네이터가 생각나는 기사였어요 ㅋㅋㅋ
13:14
24.06.07.
profile image 2등
조금만 생각해보면 AI로 인한 의도치 않은 일의 발생은 당연하지 싶습니다.

1. AI 자체가 인간이 예측하지 못한 행동을 할 가능성.
2. AI가 부도덕한 사람에 의해 매우 효과적인 범죄 도구가 될 수 있을 가능성.

이 두 가지 모두 가능성이 매우 높다는 생각이 드네요.
저는 AI에 규제를 붙인다고 해서 해결될 일은 아니어 보입니다.
언제 어디서든 단 한 사람이라도 개발을 지속하는 한 반드시 달성(?)될 일이니까요.
13:57
24.06.08.
profile image
alpine-snow
영화 터미네이터가 실제상황이 될 수있다는게 참 무섭네요;
14:04
24.06.08.
profile image
카스타드
요즘처럼 미래를 예측하기가 더더욱 어려워진 시대에는
그저 하루하루 충실히 사는게 답일 듯 싶어요. ㅋ
15:09
24.06.08.
You do not have permission to access. Login
WYSIWYG

Report

"님의 댓글"

Are you sure you want to report this comment?

Comment Delete

"님의 댓글"

I want to Are you sure you want to delete?

Share

Permalink