• List
  • Down
  • Up
  • Write
  • Search
잡담

요즘 AI에 질문을 전부 처리하시는 분들이 많아 걱정이 큽니다

Orange77 Orange77
479 15 20

이곳을 포함해서 상당히 많은 커뮤니티에서 보이는 현상인데, 사람들이 얻고자 하는 정보를 AI에게 맡기는 것을 넘어서 그 해석까지 맡겨버리더군요.

 

모든 정보의 수집을 AI에게 맡기는 것은 효율적이고 빠르지만 너무나 그 출처가 허술해 믿음직하지 못합니다.

 

그냥 좀 구멍이 있구나 한 수준을 넘어서, 인터넷 등지에서 자주 다뤄지지 않는 자세한 정보들을 다룰 경우 신뢰가능한 정보를 가져오는 비율은 1할을 넘지 않기도 합니다.

 

메이저한 주제를 다뤄도 9할정도만 믿을 수 있는데, 약간이라도 마이너한 주제를 다루면 순식간에 사실 반 거짓 반으로 응답하죠.

 

이런 정보를 근거로 삼는 행위마저 너무나 위험한데, 이런 정보들을 그대로 AI에게 해석까지 맡기는 행위는 끔찍하기 짝이 없는 결과를 낳습니다.

 

그럼에도 너무나 많은 사람들이 "AI가 그렇다는데 이게 맞는 것 아니냐?" "잘 모르면 AI에 물어보고 와라" 는 태도로 AI를 활용하거나, 심지어는 AI 답변 전문을 긁어와서는 그대로 분석글로 활용하기도 합니다.

 

 AI를 사용하실때는 꼭 답변한 정보의 출처 원문에 대하여 주소를 요청하거나 직접 찾아보는 식으로 검증 과정을 거치시고, AI에게 직접 데이터의 해석을 맡기는 행위는 절대로 피하셔야 합니다.

 

혹여나 AI가 제공한 정보를 검증하기가 어렵다면 그 지식을 가진 사람들에게 질문하는것도 좋은 방법일겁니다.

ReportShareScrap
최예찬 최예찬님 포함 15명이 추천

Comment 20

Comment Write
profile image

AI도 포함해서, 요새는 믿을 수 있는 것, 사실상 '믿어야 할 것'보다...
편리해서든, 자존심 때문에든 좌우간 마음이 가는, '믿고 싶은 것'을 믿고, 나아가서 검증의 잣대를 들이댈래도 아몰랑 하는 경우들이 많아져서 문제가 된다는 생각입니다. ㅠㅠ

독서가 줄고, 반지성주의가 대두하고, 편의적으로 모든 걸 해치우려는 경향성이 심해진 결과겠지요.

13:51
25.10.23.
profile image
AI 써먹어 보고는 싶은데 옛날 사람이라 영 어려워서 그냥 직접 찾으러 돌아 댕깁니다 -_-;;;
13:51
25.10.23.
profile image 2등
경계해야할 부분이죠.
영디비는 ai 글 비율은 그래도 적은 편입니다.
13:49
25.10.23.
profile image 3등

AI도 포함해서, 요새는 믿을 수 있는 것, 사실상 '믿어야 할 것'보다...
편리해서든, 자존심 때문에든 좌우간 마음이 가는, '믿고 싶은 것'을 믿고, 나아가서 검증의 잣대를 들이댈래도 아몰랑 하는 경우들이 많아져서 문제가 된다는 생각입니다. ㅠㅠ

독서가 줄고, 반지성주의가 대두하고, 편의적으로 모든 걸 해치우려는 경향성이 심해진 결과겠지요.

13:51
25.10.23.
profile image
Orange77 Developer
로드러너
이러면 갈수록 양질의 정보가 희석될테니 정보들의 신뢰도가 음성 피드백을 거치며 어느 순간엔 편히 믿을 수 있는 정보가 극히 적어지겠죠...
편의를 위해서 편의를 희생하는 결과를 낳으니 너무 안타깝습니다.
22:56
25.10.23.
profile image
AI 써먹어 보고는 싶은데 옛날 사람이라 영 어려워서 그냥 직접 찾으러 돌아 댕깁니다 -_-;;;
13:51
25.10.23.
profile image
참고를 하고 답변에 대한 검증을 해야하는데, 몇 번 해보니 대충 맞는거 같고 찾자니 귀찮고가 반복되면서 ai에서 뽑은 답이 정답이라고 생각하면서 문제가 시작된거 같습니다..
13:52
25.10.23.
profile image

Ai를 사용하더라도 그 결과를 판단하는 건 인간입니다. 다른 정보도 마찬가지구요. 단순히 인용 목적이 거짓이든 말든 상관 없는 사람이 그만큼 많다고 봅니다. 사실 Ai 이전에도 그런 인간들은 기사와 서적을 찾아 지껄이기 위해 지껄여왔습니다. 더 편해졌을 뿐이죠

14:14
25.10.23.
profile image
AI가 알려주는 내용은 '단순 참고'이자, '보조'일 뿐입니다.
주력이 되어버리면 의존성이 매우 심각해질 겁니다.
14:39
25.10.23.
profile image
Orange77 Developer
검은헬멧BH
AI는 어디까지나 도구여야만 하죠.
애시당초 지금의 LLM기반 AI는 도구 이상의 역할을 하는 것은 원리적으로 무리니까요.
강력한 검증 장치가 개발된다면 모를까...
22:47
25.10.23.
스펙 확인 빼고는 안쓰게 되더라고요.
무슨 칩 썼는지...
몇미리 드라이버인지...
몇옴인지...
요런것만...
15:04
25.10.23.
profile image
Orange77 Developer
초보이
스펙 확인마저도 정확하지 않은 정보를 크롤링 하는 경우가 있습니다.
직접 스펙 확인을 요청하기보다는 스펙을 다루는 사이트나 문서 등의 위치를 찾을 때 사용하고 자료는 직접 확인하시는것을 추천드립니다.
의료 관련 자료를 찾아보는데 있지도 않은 논문을 10개 중 7개를 뱉은데다가 출처라고 제공한 하이퍼링크도 엉뚱한 곳으로 연결되는 사고를 몇 번 보다보니 간단한 정보라도 직접 검증해보지 않으면 믿을게 못되더군요
22:49
25.10.23.
profile image
AI 는 거짓말 도 합니다. 주의하세요.
15:05
25.10.23.
profile image

요약용으로 주로 사용하네요.

 

16:41
25.10.23.
profile image
기본적으로 이 세상에 흩뿌려진 "출처불분명"의 정보들을 취합해서 어떤 결과를 보여주는 거라는 그 느낌만 명심하면 될 것 같습니다.
17:49
25.10.23.
profile image
Orange77 Developer
센티베어
당장 AI의 환각도 환각이지만 멀쩡하게 가져온 정보라도 그 출처가 인터넷 글이거나 비신뢰의 대명사였던 나무위키 혹은 위키피디아 등이니...
기본적으로 AI가 가져오는 정보는 카더라 수준으로 보는게 안전한 시각같습니다
22:59
25.10.23.
profile image

특히 음향커뮤에서 너무 많아요 ai를 이렇게 신뢰하는 커뮤니티는 처음입니다 물론 커뮤니티를 많이 하지는 않지만 제가 하는곳중에선 제일 많아요

18:47
25.10.23.
profile image
Orange77 Developer
아세트아미노펜
확실히 음향커뮤는 음향공학이라는 마이너 학문과 강력한 주관으로 다뤄지는 요소들이 많다보니 양질의 정보를 찾기가 어렵죠.
아무래도 그렇다보니 AI에 의존하려는 사람이 많아진듯 합니다... 이럴수록 더 강력하게 검증해서 양질의 정보를 쌓아가야 하는데 말이죠 ㅠ
23:01
25.10.23.
https://x.com/JaesikKwak/status/1981197931253551432 이런 글도 있네요
00:33
25.10.24.
입문을 준비하고 있는 입문귀로써
AI는 제품의 실사용기 주소를 한방에 모아주는 방법으로 사용하고 있습니다!
00:39
25.10.24.
You do not have permission to access. Login
WYSIWYG

Report

"님의 댓글"

Are you sure you want to report this comment?

Comment Delete

"님의 댓글"

I want to Are you sure you want to delete?

Share

Permalink
Category Subject Author Date Views
영디비에서 일해보고 싶지 않나요? 영디비 25.11.04.11:05 4105 +15
영디비 이용 가이드 (2024년 개정판) 11 Gprofile 24.07.29.19:00 12만 +9
잡담
image
마루에marue 1시간 전23:30 73 +3
잡담
normal
PacificOcean 1시간 전22:49 96 +6
잡담
image
토레타최고 2시간 전22:30 53 +3
잡담
image
종결포기합니다 2시간 전22:21 102 +1
잡담
image
Gprofile 2시간 전22:10 93 +5
잡담
image
쏘핫 2시간 전21:32 202 +9
IT
normal
풍악을울려라! 3시간 전21:20 64 +2
잡담
image
김마카 3시간 전20:46 102 +6
잡담
normal
AlpineSnow 3시간 전20:43 140 +9
잡담
image
eoeoe 4시간 전20:06 193 +12
잡담
normal
-루비아이 5시간 전19:21 92 +2
잡담
image
Stellist 5시간 전19:18 165 +11
IT
normal
been0000 5시간 전18:58 88 +5
잡담
image
COCT 6시간 전18:10 188 +9
잡담
image
연월마호 6시간 전17:39 118 +8
뉴스
image
-이도이 7시간 전17:03 274 +12
잡담
image
열렙중인엘프 8시간 전16:29 207 +8
음향
image
GOLANI 9시간 전15:13 109 +13
잡담
image
Gprofile 9시간 전15:10 122 +13
잡담
image
COCT 9시간 전15:05 98 +9
잡담
image
리느트 10시간 전14:08 85 +8
잡담
image
lordReighley 10시간 전14:07 120 +13
잡담
image
COCT 11시간 전13:15 213 +13
유머
image
eoeoe 11시간 전13:03 86 +12
잡담
image
COCT 11시간 전12:58 73 +4
잡담
image
COCT 11시간 전12:51 82 +5
잡담
image
COCT 11시간 전12:37 112 +9
잡담
image
COCT 12시간 전12:03 87 +8
잡담
image
PlainDai 12시간 전11:50 87 +6
음향
normal
풍악을울려라! 15시간 전09:25 262 +7