[뉴스] 구글 제미나이 부적절한 답변 논란
숙지니
그런데 얘가 무슨 사고 능력이 있는 것도 아니고..
그냥 학습한 내용을 기반으로 언어의 상관 관계를 기반으로 문장을 뱉어낼 뿐인데..
결국은 학습한 컨텐츠에 편향된 생각이 들어있는 것이 원인 아닐까요?
요새 인간이 인간을 혐오하는 게 심하긴하죠...
숙지니
fadong님 포함 8명이 추천
Comment 17
Comment Write
1등
2등 사고 능력이 없다고 하셨는데, 말씀하신 것처럼 '학습한 내용을 기반으로 언어의 상관 관계를 기반으로 문장을 뱉어낼 뿐'이라는 부분이 사고 능력 아닌 사고 능력, 즉 유사 사고처럼 기능할 수 있어서 큰 문제가 됩니다. 나중에 언젠가 행동능력이 생겼을 때, 기후위기를 돌파해줘 라고 부탁하면 기후위기를 만들어낸 인간을 멸종시키려 드는 상황도 충분히 가능하다는 것이죠...(인공지능 전문가들이 흔히 예시로 들어서 유명해진 것이, 페이퍼 클립을 가능한 많이 만들어 줘 라고 부탁받았다고 전 우주의 물질을 페이퍼 클립으로 뒤바꿔 놓는 인공지능이죠) 이래서 인공지능에 있어 인류와의 목적정렬은 큰 이슈가 됩니다.
더 재미있는 부분은 실제 인공지능이나 머신러닝부분에서 일하고 있는 분들에게는 아직도 걱정하기에는 갈 길이 멀다고 생각하는데, 누구나 그렇겠지만 대놓고 말은 못하고 아끼고 있다고 알고 있습니다. 그 분야도 워낙에 부침이 심했어서요.
저도 현업 전문가 친구가 여럿 있어서 말씀하신 부분 알고는 있고(젠슨황이나 샘 알트만, 데미스 허사비스 등의 몇년내 AGI 등장할 거라는 말들이 반은 마케팅이다라든지) 최소한 CEO들도 제 나름의 믿는 구석이 있으니 AI 가속 개발을 밀어붙이는 거겠거니 생각은 하지만, 아무래도 불안감을 지우기는 힘드네요. AI란 기술 자체가 인류가 개발한 그 어떤 기술과도 같지 않아서요. 미증유 그 자체죠. 마침 관련해서 읽던 책 구절이 있어서 따로 게시글로 올리겠습니다. ㅎㅎ
다만 제게 지금 하는 정도의 걱정은 충분한 경로를 통해 충분한 시간 알아본 끝에 갖게 된 염려라 근거가 있을 뿐입니다 ㅠㅠ
대 AI시대 정말 대단히 무서운거 같습니다....
Report
"님의 댓글"
Are you sure you want to report this comment?
