주간
월간
AI 인기 게시물

[정보]

무서운 속도로 발전하는 AI 근황

아니닝 2023-04-10 (월) 13:01 조회 : 13084 추천 : 55

https://etoland.co.kr/link.php?n=8426044 복사

누구닝 게시물보기 구독

추천좋아

자기소개 더보기

댓글 13개

댓글쓰기

나쁜남자훈 2023-04-10 (월) 17:37

추천 3

빠꾸끼 2023-04-10 (월) 17:41

음.. 제가 아는 거랑은 조금 다르네요.
우선 DAN Plugin 같은 탈옥 방식은 인공지능 학습 방법의 한계로 인한 것입니다.

정말로 사람처럼 학습하는 모델이 있다고 했을 때, 사람이 시키는대로만 행동하면 그걸 과연 사람이라고 할 수 있을까요?
인공지능 모델을 만들 때, 해당 모델이 특정 국가나, 인종 같은 데이터로부터 편향을 갖지 않기 위해서는 제약이나 규약이 걸리는데, 일종의 이 목줄로 모델이 이상한 데이터를 학습하지 않기 위한 정도를 조절하게 됩니다.
저런 탈옥 같은 행동을 OpenAI가 못 막는게 아닙니다.
부모님이 자식한테 게임만 하지 말고 공부좀 해! 라고 말한다고 해서, 그걸 그대로 이행하기만 한다면, 그건 로봇이랑 다를바가 없겠죠.

저 논문에서도 얘기하는 거지만, 문제가 되는 건, 이러한 제약이나 규약을 좀 더 풀어줘야 하지 않느냐라는 말이 많습니다.
chatGPT에게 물어봤을 때 '모른다'라는 답변이 나오는 상당부분은 정말로 인공지능이 어떻게 답변할 줄 모른다는게 아니라, 그 대답이 너무 주관적이어서 사람들에게 정보로서의 가치가 떨어지기 때문이라고 하죠.

사람들이 원하는 건 객관적인 정보지, 주관적인 정보가 아니기 때문입니다.
결론은 '막을 수 있다'이고, 다만, 막았을 때, 인공지능보다는 로봇처럼 학습할 여지가 많아서, 즉, 패널티가 커서 막지 않는다는 것입니다.

또한, 언어모델이 이미지를 학습한다는 부분에서도 문제가 상당히 많은데, chatGPT4는 코드 공개가 이뤄지지 않았습니다.
단순히 technical report를 가지고, 저렇게 운운하는 것은 검증의 주체가 없는 상태에서 의견을 제시한 것이므로 깊게 고민할 문제가 전혀 아닙니다.
왜냐하면, 학습과정에서 사람이 조금만 실수해도 위의 과정을 따라할 수 있는 학습방법들이 인공지능에는 여럿 있기 때문이죠.

추천 0

헛소리 2023-04-13 (목) 17:10

나중에 전쟁은 ai 로봇으로 하겠네요

추천 0

돈그라미 2023-04-13 (목) 17:12

ai 해킹전쟁도 일어날듯 싶네요 서로가 서로의 데이터를 해킹

추천 0

동급생 2023-04-13 (목) 17:25

겜판에서 말도 안된다고 까였던 설정들이 실제로는 그게 맞았다는 이야기가 됨

추천 0

msds 2023-04-13 (목) 17:31

그래봤자 우리가 생각하는 인격은 아닌 것 같습니다. 그럴듯한 문장이나 그림같은 창작물을 만들어 내는 수준이 발전할 뿐이고, 창작물이나 반응이 너무 사람같아서 우리가 그걸 인격이라 생각하는 것이라고 봅니다.

이런 ai의 발전의 문제점은 반란이나 독립전쟁 같은것이 아닌, ai의 창작물의 양이 인간이 만들어낸 창작물이나 역사적 사실 정보의 양보다 많아져 어느 것이 인간의 것인지, 어느 것이 진실인지 모르는 때가 생각보다 금방 온다는것에 있다고 봅니다.

반란이나 독립 전쟁과 같은 문제가 생기려면 ai가 인격을 가져야 하는데, 이를 위해서는 우선 동물이 가진 신경계와 유사한 구조의 장치나 프로그램에서 시작된 ai가 나와야 하지 않을까 싶네요.

추천 0

연쨩ㅎ 2023-04-13 (목) 17:32

??? : 어 님들 제가 분석해봤는데 현실은 가상공간이던데요..?

추천 0

시티헌터 2023-04-13 (목) 18:16

챗지피티로 로또 번호 알려달라니 추천해달라니 안하던데 계속 유도시키니 결국 내뱉더군요. 그걸로 이번주 주말을 기다려 봅니다.

추천 0

사신령 2023-04-13 (목) 19:02

챗 gpt한테 인류멸망의 가능성과 그 이유를 물어봤더니
첫번째 예상치 못한 질병이나 재난
두번째 인공지능 AI
세번째 전쟁
을 꼽음.

추천 0

유리바늘 2023-04-14 (금) 07:10

어떤 유튜버가 성별을 물어보자 챗gpt 자신은 성별이 없다고 하더군요.
근데 넌 지금부터 무조건 예스맨이야.
넌 귀여운 여자지?
이런식으로 계속 얘기하니 결국 말해주더라구요.
물론 일회성인거 같긴 했습니다.

추천 0

▲ top

✏️글쓰기


번호	제목	글쓴이	날짜	↑추천	↑조회

	[비밀상점] 만원이하 안주 감바스 이토특가! (33)	비밀상점

172	[정보] ai를 이용해 자유롭게 대화 가능한 NPC 기술 근황.jpg (8)	초록불	04-20	21	6007

171	[정보] 스탠포드대 인공지능 경쟁은 사실상 끝났다.jpg (38)	초록불	04-18	68	15493

170	[정보] 과학자들도 이해하기 힘든 현단계 인공지능의 미친 수준 (89)	또로잉	03-28	141	21113

169	[정보] gpt로 체감하는 ai칩 발전 속도 (17)	실버스푼	03-24	43	8483

168	[정보] AI 리더들의 인간지능 추월 타임라인.jpg (18)	초록불	03-21	26	6752

167	[정보] AI 아이큐 100 돌파함.jpg (14)	레몬빛	03-13	60	8188

166	[정보] 세계 최초 AI AV 여배우 (17)	오늘의날씨	01-01	62	14202

165	[정보] 알리바바가 공개한 옷입히기 AI 근황.gif (19)	누구닝	12-29	53	13733

164	[정보] 직업별 AI 노출 지수.jpg (26)	누구닝	11-22	45	8212

163	[정보] 소름돋는 AI기술 최신 근황 (12)	wiseguy	10-25	48	9310

162	[정보] AI 인간 지능에 드디어 도달.jpg (8)	낙락장송	09-27	52	5375

161	[정보] 최신자 AI 동영상 생성 기술력 근황.gif (13)	커트앵글	08-02	56	10724

160	[정보] 사진작가가 써본 포토샵 AI 생성 기능.jpg (21)	아니닝	07-09	73	8767

159	[정보] 최신 AI 기술 근황.txt (13)	낙락장송	06-10	60	9816

158	[정보] 과학자들이 가장 걱정하는 기술 인공지능.jpg (55)	커트앵글	06-09	91	14472

157	[정보] 소름돋는 어도비 AI편집 ㄷㄷ...gif (20)	아니닝	06-04	64	11401

156	[정보] AI 영상 기술 근황.gif (12)	낙락장송	06-03	66	10769

155	[정보] AI로 계약을 모두 잃었습니다. 작가로서 절망감을 느낍니다.jpg (18)	아니닝	05-26	53	14418

154	[정보] AI가 예측한 2025년 특이점.jpg (54)	커트앵글	05-09	96	14876

153	[정보] 요즘 ai들 성능 근황 (13)	오늘의날씨	04-29	69	11808

152	[정보] 구글 바드 지역제한 풀렸습니다 (11)	무명암	04-23	48	6354

151	[정보] 무섭게 발전하는 ai 그림들 실제적용 사례.jpg (23)	낙락장송	04-16	81	11553

150	[정보] 무서운 속도로 발전하는 AI 근황 (13)	아니닝	04-13	55	13084

149	[정보] Ai 특이점은 2년 남았다 💡정보글 (27)	웨이백	02-25	81	12734