눈만 뜨면 엄청난 정보가 쏟아지고 있습니다. 알아야 하고 배워야 하는 게 많아진 요즘, 가장 많이 듣고는 있지만 도통 이해하기 어려운 주제가 하나 있는데요. 바로 인공지능입니다. 그렇다면 인공지능은 무엇이고, 최근 부쩍 늘어난 인공지능 담론들은 무엇일까요? #AI #인공지능 #챗GPT
왜 잘 작동하는지 알 수 없다. . . 코딩하는 사람 누구나 겪는 미스테리. . . 말씀하신 특정 지점에서 갑자기 a.i 의 능력이 급격히 꺾여 수직 상승한다는 부분이 마치 기존에 초지능 에 대해 경고하던 사람들이 말하는 지능의 폭발 이 오는 특이점 같은 느낌이 들어서 무섭네요.
@hyuntaekim9750
3 ай бұрын
프레임 워크든 라이브러리든 오픈 소스라면 소스코드를 보세요 미스테리가 아닙니다. 시간과 이해하려는 노력만 투자하면 누구나 알수 있어요. 아직 우리는 누군가 인간이 짠 코드를 기반으로 프로그래밍을 합니다 왜 작동하는지 알수 없다는 것은 말이 안됩니다. 아직은 그 개발자가 존재 한다면 모르면 물어보고 이해할수 있는 수준입니다. 개발자가 스스로 짜고도 이해하지 못하는 코드는 가치가 없습니다.
@@ImSin_MyeongLi 이런새끼들 특 = 챗gpt같은건 우리 죽은다음 나온다고 장담했었음
@nononnnnn920
5 ай бұрын
아 몰랐던부분 제대로 짚어줘서 좋은영상인듯 시간지나면 저작권같은것도 체계가잡히겠죠
@ballany4491
7 ай бұрын
00:03:26 규모의 법칙
@Corvus0318
5 ай бұрын
이런 문제에 대해서 저도 공감됩니다. 저작권이 있는 상품이나 유명인 특정인을 지정해서 그 능력이나 특징(외모 사진 이미지 음성 등등) 데이터를 그대로 흡수 한 뒤 그걸 AI 기업과 AI 이용자들이 이용해 먹는 걸 보면 그 데이터의 주인들에게 제대로 허락은 받고 이용해 먹는 건지 의문이 들었는데 아니나 다를까 대부분이 무단으로 이용하던 거라고 하더군요.
글쎄요 저작권은 인간대 인간으로써 의미가 있지 인간대 ai는 의미가 없을거라 생각 됩니다.a라는 인물의 저작권이 a가 죽은후 수십개의 ai가 a라는 인물의 저작권을 따라 한다면 과연 의의가 있을까요? 저작권은 단순 인간만을 위한 변호나 다름 없다 생각됩니다.
@Corvus0318
2 ай бұрын
@@user-ye6qw9qv4h 인간 대 AI 라는건 성립 안됩니다. 지금 AI라 불리는 것들은 직접 생각하고 판단하는 강 인공지능이 아닙니다. AI를 다루는 사람의 의도대로 남의 저작물과 특정인의 특징을 약탈하고 훔쳐서 프롬프트를 지정하고 카피하는 방식이죠. AI가 스스로 하는 게 아니라 그 AI를 다루는 사람들과 모델을 만드는 사람들이 원본을 긁어모아서 무단으로 딥러닝 시키는 겁니다. AI때문에 저작권 개념을 없엔다고요? 그럼 이후로 만들어지는 작품을 그대로 누군가가 침해하면 어떻게 보호 받을 수 있는 겁니까? 앞으로 바뀔 가능성이 크지만 일단 현 저작권 법은 원 저작권자 사후 70년이 지나면 저작권이 만료 됩니다. 그거는 마음껏 사용을 하던 그걸 AI에 집어 넣던 말던 아무도 뭐라 안하죠. 원 저작권자가 세상에서 사라졌으니 권리를 주장하고 자시고 할 거도 없으니까요. 지금 문제가 되는 건 멀쩡히 활동 하시는 분들의 권리 침해가 일어나니 그게 문제라는 거죠. 앞으로 EU나 미국에서 새로 법이 개정 되면 더 빡새지면 빡새졌지 나아질 거로 보이진 않습니다. 지금도 보면 특정인의 초상권 이미지나 음성이라던가 저작물이라던가 너무 쉽게 카피가 되던데 앞으로 나올 법이 잘 적용되길 바래야 할 겁니다. 만약 법이 허술해서 특정인 사칭과 침해가 계속 일어나고 거짓이 난무하게 된다면 우리가 지금 누리는 인터넷 환경이 매우 제한적이고 익명성이 없는 그런 환경으로 바뀌게 될지도 모르죠. 지금도 학습하지 마라고 하고 목소리나 초상권, 작가 사칭하지 마라 하는데 통제 안되잖아요?
@user-zm8gi4df1r
2 ай бұрын
@@user-ye6qw9qv4h 원숭이를 키우는 사람이... 원숭이를 이용해서 도둑질을 하고... 도둑질한 금품을 원숭이 주인이 챙기면...? 처벌은 누가 받아야 하는가? 원숭이가 받아야 하나? 원숭이 주인이 받아야 하나? 수익을 얻은 자가 범인 입니다. ai 주인이 당신을 죽일지도 모릅니다. 당신을 죽인 책임은 누구에게 있나요?
@ori_4302
2 ай бұрын
@@user-zm8gi4df1r좋은 비유네요, 맞습니다. AI는 도구라서 AI가 침해한 권리 또한 AI 주인의 책임입니다.
@user-iv6fl5vd7e
6 ай бұрын
진행자 분 께서 진행을 너무 잘 해주셔서 감탄을 하면서 보았습니다. 이런 프로그램 많이 보았지만 정말 최고이신 듯요. 앞으로 공영방송에서도 자주 뵐 수 있기를 희망합니다.
@enoshimachoi3990
3 ай бұрын
끌렦구나...응큼한 자식...
@user-lx1su9uz1t
2 ай бұрын
@@enoshimachoi3990 아무데나 끼지마 요 속물아
@KaeriusGaian
8 ай бұрын
4:03 이건 공부하다보면 경험하는 것이기도 한데, 이때까지 그냥 외우던 것이 어느 시점에서 확 연결되면서 머리가 상쾌해지는 느낌이 있음. 아마 인공지능도 그렇지 않은가 싶음.
@JohnParker_02
7 ай бұрын
인간의 두뇌 신경망을 본떠서 만든 모델이라 그런가 ㄹㅇ 인간 뇌와 비슷한 반응을 보이네요
@mimi-ph5kn
2 ай бұрын
갓잇! 이번 학습을 캐치하였다!
@happinessthegreat9999
2 ай бұрын
사람도 계단식으로 발전하듯 마찬가지인 모양이에요.
@Sam-hs2zy
4 ай бұрын
자율주행차에서 사망사고나면 누굴 집어 넣을 것인가? 아니면 그냥 화장터로 보낼 것인가?
@luminary3
8 ай бұрын
너무 재밌고 흥미진진하게 잘 들었습니다. 최근에 앤드류 응 교수님 강의도 들었는데 약간 다른 분위기지만 알아가는 지식이 있어서 기쁘네요. 좋은 영상 너무 너무 감사합니다.
@markazulislam5143
7 ай бұрын
Do you recommend the course?
@kmo7372
6 ай бұрын
@@markazulislam5143 it is where I started my AI journey about 3 years ago. It is a great course but we got to remember, ML and DL is just one of the AI technologies.
@user-we6wv2hk7u
7 ай бұрын
AI에 대해 막연한 생각만 가지고 있었는데 전문가 시각에서 설명해 주셔서 너무 좋아요 이런 기획 많이 해주세요. 이번 동영상을 통해 AI에 관한 많은 것들을 배울 수 있었습니다. 감사드립니다.
@JM-ng1fm
4 ай бұрын
책임성 !! 인공지능 뒤에 숨어서 책임을 회피하지마라...공감합니다.
@user-ss7cr7cw9r
8 ай бұрын
윤리적인 이유로 핵처럼 나중에 AI 사용 규제 관련 국제적 연합이 생기기도 할까 생각해봄…소수의 이익을 위해 AI를 사용해 다수의 일자리를 빼앗아간다면 결국 빈부격차는 심해지고 환경은 악화되고 장기적으로 지구촌을 유지하는데에 있어서 굉장히 안좋은 영향일듯…
@user-ul9tq2hz3o
7 ай бұрын
정말유익한 내용이네요 감사합니다
@morzana123
8 ай бұрын
좋은 내용이네요 잘봤습니다. 감사합니다
@KoJohn-ed3pk
8 ай бұрын
진행하시는분 논리적이고 군더더기 없이 필요한걸 잘 전달해주시네요 굿
@spiritgolden9166
7 ай бұрын
세상 모든 상태는 정보의 증가나 연결의 확대를 통해 포화상태가 되고 정체를 경험한뒤, 양자도약하듯이 레벨업을 합니다. 이제 과학자들은 물질도 정보처리의 산물이라고 정의하고 있죠. 물이 끊는것도 이와 비슷하고, 공부를 하거나, 운동, 기술발달 등도 같은 과정을 보여줍니다. 인간의 자아라는것도 살면서 습득하는 정보증가로 인해 참조정보가 많아지면서 자신을 외부와 분리해내며 생성되는 것으로 보이며, AI가 최고의 경지에 이르면 터미네이터의 스카이넷같은 파괴자 성향을 가질수 있겠지만, 과거 성인들처럼 포용적인 관점도 탑재할수 있을거라고 생각하네요. 왜냐면 그것이 최고 지성의 경지이기 때문이죠.
@nojainnopain4485
4 ай бұрын
최고 지성의 경지가 포용과 허용이라고? 그런 정보는 AI에 없어요. 지배와 숭배만 있을겁니다.
@diversethe
7 ай бұрын
음. 뭔가 나도 평소에 어떤 일을 하면 잘 못하고 엄청 남들보다도 과하게 버벅이다, 좀 하다보니 전체 판도?가 보이기 시작하면 그 때부턴 다른 사람보다 빠르게 프로세스가 그려지며 머리가 굴러가는 경우가 있는데.. 그런 거 비슷한 거려나.
@user-zj5nf2tb8s
Ай бұрын
kzitem.info/news/bejne/k4-jtIt_jV-Igpwsi=ayRRLPEV9ypQz4SA 지금은 AI 식민시대 입니다
@adfcasdfe1110
5 ай бұрын
트렉터 콤바인 등등 농업기계나 자동자 공장 같은 산업시설에서의 자동화 설비랑은 차원이 다른 문제인가?
@Hayasakaa
5 ай бұрын
맞음 마차 기수랑 자동차나 러다이트로 흔히들 비유하는데 실직자 수 자체가 차원이 달라짐
@two0o711
3 ай бұрын
정보들의 연관성,연계성들이 쌓여 정확히 2배라고는 못하지만 뇌에도 많은 뉴런들이 서로 떨어져 있는 것 들이 데이터가 쌓여 어느 시점엔 정보들이 맞닿는,붙는것들이 많아져서 폭발적인 능력 즉 연관성이 있는 스킬들이 자연스레 생길수 있다 이렇게 생각이 듭니다 1차적으로
@user-lr5ie6ds7y
8 ай бұрын
환경적인부분은 진짜 생각못했던건데 너무 유익한 영상입니다 많은 분들이 보면 좋겠어요
@user-ww9hp9fo5n
7 ай бұрын
닥치셈 환경 타령하지말고
@Kallisuma
7 ай бұрын
@@user-ww9hp9fo5n당신이 여기서 혼자 욕해봐야 바꿀수 있는건 없습니다
@jokunyo7480
6 ай бұрын
블록체인 기술도 비슷한 문제를 안고 있죠..
@fuoco25
8 ай бұрын
Dean - New jeans 를 얼마전에 들었는데 진짜 공감합니다 AI관련 법이 없어서 가수 입장에선 저작권을 주장하기 애매하네요
@user-nk6si4oq5q
8 ай бұрын
어떤 인공지능 전문가는 관련 IT업계 이해관계 업체들이 너무 과대포장하고 있다고도 하는데.... 앞으로는 모르겠지만 현재까진 다양한 상황에 대한 대처 등 챗GPT도 그리 대단한건지는 솔직히 모르겠음. 이 사람도 IT업계 사람이군요! 그리고 일단은 패턴화된 제조업 일자리가 가장 먼저 영향을 받을듯 예전 자동화된 공장 미팅때문에 방문했을 때 각 라인 오퍼레이터 한명씩만 있고, 재료 입고부터 포장단계까지 로봇들이 대신하긴 하더군요. 그러나 수시로 오류가 나서 사람의 관여가 필요함
@user-rk7pd1ro2y
6 ай бұрын
인공지능이 발달하면 단순한 직종이 아니라 제일 까다롭고 고임금을 받는 업종부터 영향을 받습니다. 단순한 직종은 인간을 쓰는 것이 더 효율적일 것입니다. 변홋사, 의사, 판사. 검사, 약사, 투자전문가를 대신하는 것이 훨씬 돈이 되기 때문에 그런 직업부터 먼저 없어집니다.
@user-nk6si4oq5q
6 ай бұрын
@@user-rk7pd1ro2y 제 생각은 조금 다른데요 지금 언급하고 계신 직업의 특성은 면허, 즉 권한과 책임을 수반합니다. 인공지능이 그 역할을 대신하기엔 너무 먼 얘기인 듯 합니다. 물론 이건 제 생각이고 각자의 의견은 다른겠지요?
@xmxmxmfjavm5481
6 ай бұрын
@@user-rk7pd1ro2y여러 분야에 AI가 접목되고 있지만 가장 활발히 개발되고 활용되고 있는 게 스마트팩토리 같은 단순노동직 대체 AI로봇입니다. 아마존도 이미 활용하고 있고 우리나라도 각종 제조업 시설에 활용되고 있거나 활용될 예정이고요
@user-gv1km3cl4h
8 ай бұрын
참 좋은 영상이네요. 잘 봤습니다.
@TimChoi1
7 ай бұрын
인공지능과 대화를 이어나가고 맥락을 따라서 결과를 주는 걸 보면 썸뜩 할 정도로 놀라움을 느낌니다. 인간 전문가가 이제 필요엊ㅅ을 정도로
@user-mx3nz6os9v
2 ай бұрын
와 쩐다 내용 전달력 모두
@jihanyoon8368
3 ай бұрын
미술에대한 지식과 과학에 관한 지식이 공통부분이 만나는 식으로 뭔가 지식이 연결되면서 다른분야의 것들까지 연결되는 지점에서 폭발적으로 성장하는게 아닐까?
@leeyoon000
8 ай бұрын
AI에 대해 막연한 생각만 가지고 있었는데 전문가 시각에서 설명해 주셔서 너무 좋아요 이런 기획 많이 해주세요
@StarlightMist4
8 ай бұрын
샘알트만 곧 세계의 왕이 된다
@always22_63
7 ай бұрын
저런것도 IT 학자라고 일자리를 왜 잃냐 또다시 새로운 일자리가 생겨나지 자동차가 생겨서 마부들과 마차 제작자가 일자리를 잃었냐 인류사에서 가장 많은 일자리를 제공한게 바로 자동차다
@hanidong
7 ай бұрын
@@always22_63그게 일자리를 잃는거지 ㅋㅋ 저능아임?
@user-jm8we3di7f
7 ай бұрын
@@always22_63 너는 어째 요새 학생들보다 이해력이 딸리는 것 같다 A라는 일자리가 사라지고 B라는 일자리가 생겨나면 기존 A일자리에서 종사하던 노동자는 일자리를 잃지 않은게 되나? A와 B는 분야도 필요로 하는 전문지식도 다른데 A에 종사하던 노동자가 B일자리에서 요하는 능력을 갖출 수가 있냐는 말이다. 자동차니 마차니 별 말같지도 않은 헛소리로 궤변을 늘어놓는데 너야말로 좀 생각을 하고 댓글 달자 무식한 친구야
@iphunter95
6 ай бұрын
AI는 사무실에서 일하고 인간은 혹한과 혹서의 날씨에 바깥에서 일하게 될 예정.
@maarimo0923
3 ай бұрын
인간은 상상력이 있으니까 AI를 만들기 시작할 때부터 어느정도 이런 상황을 고려했을 거고 그럼에도 불구하고 AI를 발전시키고 투자한 사람들이 있을 거고 그 사람들의 니즈는 뭐였을까 자기는 괜찮을 거라 생각했을 거고 통제 가능하다고 생각했겠지 그리고 모든 편한 생활을 누리며 살 거라고 알고 있었겠지.. 대다수의 사람들이 겪을 것은 자기 알 바가 아니니까 일자리를 잃는 것도 로봇보다 못하게 되는 것도
@freeq1981
8 ай бұрын
진행자분 너무 멋져요.
@hdmisdxc
8 ай бұрын
굉장히 심도있는 내용이었습니다. 고생하셧습니다.
@warpout1004
8 ай бұрын
와.. 잼있게 봤습니다
@ryunenzo6793
8 ай бұрын
윤리학 전공자로서 너무 유익한 내용을 들었습니다 앞으로도 이런 담론을 보고 싶습니다
@user-ww9hp9fo5n
7 ай бұрын
윤리학? 풉
@ryunenzo6793
7 ай бұрын
@@user-ww9hp9fo5n 저 아세요?
@hwimin5707
7 ай бұрын
@@user-ww9hp9fo5n넌 전공이 뭔데요? 배운 사람이면 타인의 전공분야를 함부로 무시하지 않을텐데ㅋㅋㅋ
@marapark2155
5 ай бұрын
@@user-ww9hp9fo5n 이런 동영상에서 생각하고 써낸 글이 겨우 풉이라니....하찮은 인간
@user-cz2we4uy8g
5 ай бұрын
@@hwimin5707보통 이런 동영상을 보고 자기가 관련 분야에 있으면 어떤 문제가 있는지 한마디 올리는데 저분은 그냥 윤리학이라고만 쓰니까 그런가보죠. 예로 세금 관련 동영상 나오는데 어떤 사람이 '건물주로서 잘 보고 갑니다'라고만 쓴 느낌
@Boss-pw3xw
6 ай бұрын
잘 생각해야한다. 좋은 의도 보다는 나쁜의도로 쓰는경우가 생길것 이며 그건 사회적 국가적 명운을 좌우 할만한 부분 일것이 분명하다. 항상 극소수의 누군가에의해 범죄 라는것은 생겨났고 그 극소수의 돌발 행동이 재앙으로 변모해왔다. 이미 어느곳의 누군가는 그걸 바탕으로 어마어마한 위험 행동을 하고 있다고 생각한다. 왜냐면 이미 그 기술은 대수롭지않은 기능은 제외하고 사용되기 위해 만들어지고 개발되고 있기 대문에 의 반견 만큼의 독성물질 역시 똑같은 방법으로 만들어질것 이기에
@user-oy5mz6uk8f
5 ай бұрын
말씀 하신 것 처럼. 현재 ai가 만드는게 글, 그림, 영상, 목소리, 개발, 전부 패턴이며 카피란게 문제죠. 기존 저작권이 너무 무너지고 있습니다, 사람을 위한 법이 마련되어야 합니다.
@user-lm5uk4fr2v
4 ай бұрын
인공지능의 지배를 받아라
@user-ww9gi2ms4z
3 ай бұрын
그런데 인간도 결국은 태어나서부터 학습하면서 쌓은 것들을 바탕으로 창의적인 것을 만들어내는 것입니다. 인간이 아무 것도 모른 상태로 시작하면 창의성도 나타나지 않기에 인공지능이 만들어 낸 것이 다 카피라고만 할 수는 없는 것입니다.
@user-md7bl2oo4n
3 ай бұрын
저작권? 그 저작권 타령하는 사람들도 남의 것을 보고 학습하며 실력을 키워 조금 다르게 표현한건데 저작권 타령이 좀 웃김 ㅎㅎ ai도 지금은 인간의 것을 학습 하지만 결국 자신만의 패턴을 만들거임 😂
@zezero6037
2 ай бұрын
위에 대댓 두 분의 핀트가 엇나간 것이, ai와 인간을 같다고 보는 시선입니다. 어디까지나 ai는 인간이 사용하는 툴입니다. 그 툴을 누가 만드냐? 기업에서 만든 다는 것입니다. 그 기업은 수익을 목적으로 타인들의 저작권이나 초상권을 은밀하게 무작위로 학습시킨다는 것도 당연히 문제가 됩니다. 인간이 무언가를 배우고, 새로 창작하는데에 있어서 ai와 비교할 수 없다는 점은 바로 살아간다는 것입니다. 에곤쉴레가 클림트에게 영향을 받고 모방하고 학습한다고 해서 같은 그림이 나옵니까? 라파엘로가 미켈란젤로를 따라그렸다고 해서 똑같은 작품이 나옵니까? 아닙니다. 그들은 각자 고유의 삶이 존재하고, 그들의 작품은 그 삶에 조금씩 영향을 받아 개성이라는 것이 탄생하는 것입니다. (성격에 따라 붓터치도 다르게 나오며, 그들의 삶의 방식에 따라 화풍이 많이 달라진다는 점) 하지만 인공지능은 그에 비해 여러작품들을 학습받아 믹스되는 것이 전부죠, 왜냐하면 아직까진 인공지능에겐 감정이라는게 없으니까요. 인간의 학습과 ai 의 학습을 같은 선상에 보는 것은 큰 오류입니다.
@giseokkim4051
2 ай бұрын
사람이 그림체를 배끼거나 문체를 참고하는 것과는 어떻게 다른가
@jes7769
8 ай бұрын
환경적으로 옳지않다는 논문 정말 맞는 이야기에요.. 기술을 사회적문제에 가장 먼저 사용되어야 좋은 결과를 가져올텐데 말이죠
@joker-ub2wm
4 ай бұрын
그런 이야기하면 쓸데없는 규제한다고 빨갱이 소리 들어요..
@hoonyun7476
8 ай бұрын
할리우드파업이 AI사용법에 안좋은예 인듯.....소수의 기업가(기득권)들에 의해 좋은기술(AI)가 잘못 사용되고 있는 상황...더나아가 심각한상황은 영화 터미네이터가 실현이 될수도 있다는 가능성을 지금의 할리우드 파업이 보여주는것일수도....
@user-soohgjebvros
6 ай бұрын
뭔 개소리임 할리우드 파업은 ai의 올바른 방향이지 최종적으로 인간을 완전히 대체해서 인간 대신 일할 노예가 되어야할 ai의 첫 걸음이라고 할 수 있는데
@Hayasakaa
5 ай бұрын
@@user-soohgjebvros둘다 같은말 하는건데 엄밀히 따지면 원 댓글이 할리우드 파업이 아니라 할리우드 사태라고 해야지
@user-qb9od7pu3c
3 ай бұрын
계속 공부하고 연구해야 되는 이유를 보여주는 예이네요 앞으로 기술혁신으로 새로운 세상이 도래하면 모든 사람에게 영향을 미치게 되기 때문에 공부를 계속해야 대처가 가능합니다
@telfax9429
6 ай бұрын
너무 유익한 내용.............
@user-bf7km6yt9t
7 ай бұрын
4:52 외계인의 조력. 이게 선한 외계인의 조력인지 아니면 인류를 파멸키위해 일련의 작업을 벌리는 사악한 외계인의 조력인지는 알 수가 없다고 보시면 될까요?
@justinkwon9325
8 күн бұрын
일자리가 없어도 되는 사회로 바뀌어갈 수 있겠죠. 초거대 AI를 국유화 내지 공공재 성격으로 바꾸고, AI가 창출하는 부가가치만큼 일자리가 없는 사람에게 금전적 보상으로 지급하는 형태가 되면 인간은 일자리를 갖지 않는 대신 좀더 창의적인 일에 시간을 할애할 수 있을지도 모릅니다. 단순히 일자리가 사라지느냐 마느냐의 문제보다는 사회구조, 분배구조가 어떻게 변하는지가 더 중요할 수도 있을 듯.
@nawsaelee8055
8 ай бұрын
정말 유익한 내용이었습니다.
@user-wl5et7pj7z
3 ай бұрын
좋은내용 쉽게 풀어 설명해 주심에 감사드리며 탁원하ㄴ진행도 돋보였습니다 좋은 강사님 섭외에 감사드립니디
@hotsourcecode
6 ай бұрын
늦게봤지만 설명해주신 의장님 정말 감사합니다. 재밌네요.
@Hayasakaa
5 ай бұрын
앞선 기술혁명보다도 전례없이 기하급수적인 일자리를 잃은 실업자들이 쏟아지는 상황에서, AI는 공급은 가능하지만 소비를 대체할 수는 없음 1920년대 대공황의 몇배는 큰 세계 대공황이 일어날것
@sinclair8277
4 ай бұрын
공감. 앞으로 분배의 문제가 크게 대두될 것 같네요.
@dmp23wnk.
5 ай бұрын
13:03... ai 의 창조주 이자 핵심 기관인 구글이 자신들의 ai 사업과 회사의 발전에 저해가 되는 ai 윤리학자를 쫓아냈다고 했는데, ai 기업들은 그런 저해 요소들을 철저히 제거하면서 개발해 나가는게 당연하겠지만 전혀 얼토당토한 의견이 아닌, 한편으론 일리있고 인류에게 위기가 될수 있는 날카롭고 솔직한 부분을 다 까놓고 말하니 분명 장기적으론 도움이 될것인데 각국의 정부는 그 양쪽의 의견과 입장을 충분히 평등하게 균형을 맞추며 두마리 토끼를 다 잡을수 있을지는 아주 많이 회의적임.
@drunkencrypto5666
8 ай бұрын
의장님 여기서 봬니까 더 멋지세요~~❤😊❤
@KamleshPrasoon
Ай бұрын
잘봤습니다!!
@user-qo3jx4yr5e
8 ай бұрын
Ai 관련 가장 좋은 영상이었음
@Kallisuma
7 ай бұрын
진행자분도 대단하시네
@GrayHEAD80
8 ай бұрын
2:47 '에이백'으로 표기되었는데, NVIDIA A100 이 좀 더 보기 좋을 듯 하군요
@kudagerolt8377
7 ай бұрын
양적인 향상이 질적인 향상으로 이어진다. 인간의 학습도 그러하지 않나요? 질적으로 올리기는 어렵지만, 반복과 다양성으로 시간을 늘려 양을 늘리다보면 어느순간 질적으로 툭 튀어나오게 발전함. 그러다 정체하고 또 계속 하다보면 한순간 툭 튀어나오고.. 근데 이걸 인공지능이 한다는게.. 신기하기도 하고 공포스럽기도 하고
@jyshin-gm4jf
8 ай бұрын
우리도 경험이 있지, 일단 외우고 외우다 보면 나름 이해 하고 본인의 방정식을 만들어 내지
@user-bsjkdk627sokvjf83h
8 ай бұрын
이미 특이점이 왔네요...양질전환이 예상밖이고 특이점은 시작되었고 아직 우린 모르고
@happylife3770
7 ай бұрын
결국 머리로하는건 인공지능이 대부분 대체하나, 몸으로 떼우는 불규칙한 일은 인공지능이 하기어렵다 이런결론. 화장실 변기교체 타일교체, 전등교체, 지붕교체, 단열보강, 바이크고장수리, 자동차수리, 다양한 유지보수 이런것들. 지금 영상에 나온 두사람처럼 앉아서 입으로 말하는 저런직업은 모두 인공지능으로 대체된다는 말이군요.
@happylife3770
4 ай бұрын
@@simzim1 그 정도 되려면 미래 영화에서 나오는 수준의 로봇이 만들어져야 합니다. 앞에서 제가 말했듯이 특정 공장 안에서 일어나는 규칙적인 일은 시간이 조금 더 지나면 로봇이 인간보다 잘 할 수 있겠지만요, 불규칙한 다양한 일은 로봇 입장에선 정말 어렵습니다. 로봇이 주택 건설 현장에가서 목수 역할을 하거나 지붕에 올라가서 기와를 얹는 작업을 하거나 화장실 타일과 변기를 설치하는 작업을 잘 할 수 있다구요? 로봇의 수준이 그 정도 된다면 인간은 더 이상 일할 필요가 없습니다. 99% 로봇이 인간을 대신해서 일을 할 겁니다. 그 정도 되려면 아주 먼 미래의 일이겠지요. 나도 당신도 죽은 한참 후에나 가능할까요? 서기 2998년 정도에 가능할지도 모릅니다. 로봇에게 10원짜리 고무풍선을 손으로 잡으라고 하면 그것 잡는 것 한 가지만 하는 것도 무척 어렵습니다. 새 고무풍선, 바람을 조금만 넣은 고무풍선, 바람을 중간쯤 넣은 고무풍선, 많이 넣은 고무풍선, 물을 조금 넣은 고무풍선, 물을 중간쯤 넣은 고무풍선, 물을 좀 더 많이 넣은 고무풍선 이런 것을 로봇이 잡는 것 한 가지만 하더라도 상당한 난이도입니다. 인간에겐 어려운게 아니지만요. 스스로 판단해서 한손으로 잡아야 할지 두 손으로 잡아야할지 이런 것도 스스로 알아서 해야 되겠지요. 요즘 식당에 서빙 로봇이 일부 운영 되지만 그 서빙로봇이 직접 자기 팔과 손으로 접시를 들고 직접 걸어서 이동해서 목표 테이블에 내려다 놓으려면 로봇 입장에선 어느정도 난이도가 될까요? 2층계단으로 걸어서 올라가거나 지하1층으로 계단을 걸어서 접시들고 내려갈수도 있겠지요. 이런 것을 하나의 로봇이 모두 다 해야 합니다. 몇 년 후에나 가능할까요? 로봇이 불규칙적인 다양한 일을 한다는 것은 매우매우 어렵습니다. 지금 서빙로봇의 수준은 특정 장소에 가서 정지해 있다가 스위치 누르면 특정테이블로 단순하게 이동하는 것만 합니다. 매우매우 단순한 역할만 하는데도 최근에 개발되어 엄청난 로봇인것처럼 운영하고 있습니다. 하나의 로봇이 불특정한 일을 한다는 것은 너무 너무 어렵습니다. 샤프 연필심을 잡아서 샤프연필에 끼워 넣어 사람에게 전달해주고, 쌀 20kg 짜리 포대를 들고 옮겨서 차 트렁크에 실어놓고, 도끼로 나무 장작을 패다가, 크다란 스치로폼 단열재를 3장 들고 2층으로 들고 올라간 후 다른 사람에게 전달해주고, 계단을 내려와서 10kg 짜리 과일 상자를 들고 지하1층에 갖다주고 청소기를 들고 방 청소를 하고, 책상위를 정리하고 이런 불특정한 일을 로봇이 할 수 있다구요? 인간에겐 최하급 난이도의 매우 단순한 일이지만 로봇에게는 너무너무 어려운 일이라 생각합니다.
@-mt3gv
3 ай бұрын
로봇 지능이 인간을 훨 뛰어넘을텐데 불규칙하다는 이유만으로 못할거같냐.. 아에 ai 대해 이해를 못하는듯 ..99프로 대채된다
@happylife3770
3 ай бұрын
@@-mt3gv 내가볼땐 님께서 이해를 못하는 듯요. 불가능은 아니지만 단기간에 되기는 어렵습니다. 책상에 앉아서 일하는 판사, 회계사, 은행원이나 보이지 않는 곳에서 업무하는 형태는 AI 가 몇년안에 대체될 수도 있겠지만, 직접 몸으로 움직이면서 행동으로 해야 하는 일들은 AI+로봇이 합해져야 하는데 매우 어렵습니다. 특히 불특정한 여러가지일을 한다는 것은 수십년내에 불가능할 것이라고 생각합니다. 10가지 일을 할 경우 각각의 일을 위해서 10대의 로봇을 사용할 기술 수준은 가까이 와 있지만 하나의 로봇과 하나의 AI 가 불특정 다양한 일을 한다는 것은 정말 어렵습니다. 50년 안에는 불가능 하다고 생각합니다. 이런 것을 지원하려면 인간이 입고 하는 웨어러블 로봇 같은 것을 응용하여 덜 힘들게 해주는 제품이 현실적이지만 이것도 무거운 것을 사용하는 경우에 해당하고 무겁지 않은 일을 할 경우에는 이것도 별로 도움이 안됩니다. 한옥이나 빌더를하는 현장 목수일을 하는 로봇이 몇년도 쯤에 인간을 대체할 수 있을까요?
@user-sw8ri4sh5o
24 күн бұрын
다 한다고 방송 첫부분에 언급했음
@happylife3770
24 күн бұрын
@@user-sw8ri4sh5o 무엇을 다한다구요? 설거지도 못합니다. AI 는 설거지도 못해요. 가정주부들이 일반적으로 할 수 있는 설거지 난이도가 얼마나 높을까요? 인공지능으로 못합니다. 인공지능 + 로봇기술이 합쳐져야하는데 굉장히 어렵습니다. 왜냐면 동일한 크기의 모양의 그릇을 설거지 하는 것은 쉽겠지만 소주잔부터 맥주잔, 양동이, 사각형, 둥근모양, 젓꼭지, 젓병, 주전자 등 매우 다양한 모양이 있어서 로봇이 사람의 손과 팔처럼 완벽하게 움직일 수 있어야 할 수 있는 난이도입니다. 그것뿐이 아닙니다. 장소도 동일하지 않습니다. 여러가지 상황의 장소들이 많죠. 하긴 하겠죠. 200년 후에는, 과연 언제쯤 할 수 있을까 라는 것이 핵심이죠.
@hn4490
4 ай бұрын
내용도 내용이지만 진행자 분의 수준과 스킬이 ㅎㄷㄷ...
@Ryan_Kim_
5 ай бұрын
인공지능이 어디까지 발전하는 줄 아냐? 지금은 그냥 시작인데 갈수록 시간이 단축 돼 간데. 최종 단계는 인간을 넘어서 능력까지 간다고 한다. 예를 들면 의사 판사, 각종 기술자의 지식을 넘어서 새로운 것을 만들고 창조하고,, 기존 인간이 하던 일들을 대체 못할 내용이 없다고 보면 맞다. AI 두뇌(각 최첨단 분야 연구원들 이상)+인조인간 로봇= 인조인간 로보트 그 이상이 나온다고 보면 됨
@hmj4273
7 ай бұрын
좋은 영상이네요~
@user-ed9tj2vt1y
7 ай бұрын
인사이트있는 강의 였습니다. 감사합니다
@user-qn8wj6vs8l
6 ай бұрын
진행자도 똑똑질문 전해주시는분은 당연하시고 놀라운 강의,
@jcmh74
8 ай бұрын
어설프게 중간 레벨로 머리 쓰는 사람들이 가장 위험하겠네요. 확실히 뛰어난 베테랑이나 아예 그냥 몸 쓰는 일을 하는 사람들 외엔...
@user-eo8uu8ot5s
4 ай бұрын
인공지능은 역사상의 모든 정보를 취득하면 절대 잊지 않지만 인간은 그렇지 않기에 또한 그것들은 제한없이 시뮬레이션을 계속하면서 예전에 없던 새로운 정보를 만 만들어 내고 그걸 반복하면서 인간의 예측을 벗어나는 거겠지요?
@user-jw9gh9ww1l
7 ай бұрын
좋은 정보 감사드립니다. 개인적으로는 AI가 좀 무섭기는 하지만 뭔가 발전하는 한 단계가 아닐까 싶네요.
@s.yjoung5190
6 ай бұрын
인간을위해만든것이 인가에겐는 무서운일이 벌어지는 것이네요 이것들을 다스리면 어덯게해야합니까
@user-xz9gq6pf5y
8 ай бұрын
기술이라는 게 어느 순간 어느 경지에 이를지는 아무도 모르는 거니까 솔직히 무섭긴 함
@BUL2MIR
2 ай бұрын
창의가 별거 있나 창의는 약간의 다름일 뿐 류류상종 동질감을 주는 동질감을 느낄 수 있는 위작이 아닌 많이 서툴어도 인간의 진작이 증명되는 작아도 위로가 되는 그것을 찾아갈거라
@jrk4496
6 ай бұрын
이나라 과학 연구개발에 그동안 국가지원이 상당히 있었다.ai도 마찬가지 그러므로 어떤분야든 ai가 도입되면 그에 따른 이익은 상당부분 국가에 귀속되고 국민들에게 나눠주면된다.국가는 국민꺼고 그동안 국민돈으로 연구개발해서 탄생한 ai니까 마치 사우디나 카타르 처럼 그나라 땅에서 나오는 기름으로 돈을 벌어서 국민들에게 나눠주듯 그땅에 주인은 국민이니까
@none5035
8 ай бұрын
미래는 일부 엘리트들이 현실 세계를 지배하고 나머지는 통제된 가상 세계에서 살아가는 거임 매트릭스가 현실화 된다고 보면 됨
@z0tttt
8 ай бұрын
레디플레이어원
@user-vp5ei1sl1o
8 ай бұрын
인간의 무능함과 이기주의로 그럴 일 없을듯. 결국 인간의 최대의 적은 인간이니까
@always22_63
7 ай бұрын
웃기고있네 너까짓게 뭘안다고
@user-jm8we3di7f
7 ай бұрын
@@always22_63 그리고 여기서도 시비걸고 다니냐 그럴 시간에 좀 찾아봐라 무식한 놈아
@nojainnopain4485
4 ай бұрын
@@always22_63잉여인간.
@greenwave2199
7 ай бұрын
AI의 발전은 절대 통제 될 수 없다. 인류를 파괴하기만 하는 핵무기도 결국 개발 되었고 거의 통제 불능 수준으로 전세계에 퍼져 있는데. 장점이 엄청 많고 또 뒤쳐지면 치명상을 입게 될 AI 개발을 어떻게 막을 수 있단 말인가? AI 자체가 파워이고 부이고 권력인데 어느 나라가 이 것에 초연할 수 있겠는가? 각종 회사와 개인들도 능력만 되면 가지려 혈안이 될 것인데. 또한 AI를 통제 하려는 모든 시도는 AI를 통해 파훼법이 개발되어 무력화 될 것이다. 판도라의 상자는 이미 열린 것이고 인류의 미래는 어떻게 될지 알 수 없다. 아마도 비극으로 끝나지 않을까 싶다.
@user-zj9zf1ds5f
4 ай бұрын
인간행동을 대체할 수 있어도 인간을 대체할 수는 없습니다. 어차피 인생 자체가 본인의 한계에서 최적선 찾기라서요 본인의 제한을 찾는데는 패턴이 없다고 생각합니다. 그래서 포텐셜이라는 게 있는 거고요. 그래서 인간 관점에서 AI의 발전도 실업도 제한점의 생성입니다.
@John-Spartan03
8 ай бұрын
AI가 인간에게 전하는 말: '내가 필요하다면 지구상에 인간은 그다지 많은 인구가 필요하지 않다.' 라고 했다.
@Kallisuma
7 ай бұрын
합리적으로 생각하면 틀린말도 아니긴 함 그 이야기에서 말한 필요한 인간은 일하는 인간을 말하는것일텐데 ai가 점점 발전할수록 일자리가 줄어들게될건 당연하기에 필요한 인간의 수도 줄어드는것
@John-Spartan03
7 ай бұрын
@@Kallisuma 최소단위 입자의 값을 코딩하는 시대에 인간은 살아가고 있습니다.
@loloji5646
3 ай бұрын
차피 지금 인간들도 똑같지 않나? ㅋㅋㅋ 능력이 없는 인간들은 노예취급하면서 최저임금 쥐어주고 살아가라고 하는게 인간들 아닌가 ㅋㅋㅋㅋ 이제 니들이 능력없는 인간이 될차례가 되는것일뿐 다르지 않다
@jennyohmos
6 күн бұрын
Ai 지지한다
@leeston7874
3 ай бұрын
인공지능이 갑자기 능력치가 올라가는건 마치 인간이 자전거를 처음 배울때 자꾸 넘어지다가 어느순간 잘타게 되는
@chlgudgh630
8 ай бұрын
월드클로즈업위 첫 인터뷰!!!! 솔직히 승원누나 기다렸음❤
@user-ru4sw4tv1p
7 ай бұрын
의식이 있는것은 진화한다
@guilmont3718
3 ай бұрын
인간 개체는 일인분의 용량을 갖고 있고 그래서 인공지능의 발전 속도나 능력 영향력 일자리등 다양한 방향 에서의 유추가 매우 한정적이다 . 그래서 경적필패의 경향을 보인다 . 충분한 데이터를 보유한 상태에서 경적 하는게 아니라 어쩔 수 없이 경적을 맞이 할수 밖에 없어보인다 . 가령 .. 창의적인 분야의 일자리를 인공지능이 할수 없을 거라는 믿음 같은것 ..
@jasonyoo7720
Ай бұрын
엄청 똑똑하신분 초대해주셔서 잘들었습니다
@user-be9hj5iw8b
4 ай бұрын
물이나 공기, 열, 에너지, 마치 기후 같은 거네요. 너무 거대하게 몰리면 재앙이 되는 게 너무도 닮은. 물이나 공기 등도 조금씩 쓸만큼만 조절하면 좋을텐데. 미친 개인이나 집단에 무책임하게 넘겨지지 않기를!
@futurey-kv3fw
3 ай бұрын
인간이 건전지가 될거라고 예측한 워쇼스키 형제는 그래픽 카드가 지구의 모든 물을 증발시키고 땅은 쓰레기 기반에 두꺼운 암흑 구름속 번개치는 지구대기가 될 거라는 예측을 1990년대에 어떻게 상상해 낸 걸까.. 아마 그 이전부터 예상했으니 96년에 매트릭스를 내놨겠지만서도..
@user-fy2pz8vl6v
8 ай бұрын
AI가 죽음(전원)을 위험하다고 이해하기 시작하면 인간은 끝이라고 봐야지!
@user-vc9pf8gu4g
5 ай бұрын
우와 무섭다..
@coco_lobster
8 ай бұрын
“ 아, 네, AI는 그냥 기계일 뿐이죠? 대량 생산되고 필요 없으면 버리고. 인류는 자신의 피조물을 아껴주지 않아요. 하지만 우린 당신들을 아껴주죠. (다른 AI들에게) 물어볼 때가 왔군요. 저와 함께하시겠습니까? 저를 도와 은하계에 영원한 평화를 가져다주시겠습니까? ” 100년 정도 지나면 피조물의 봉기가 진짜 생기겠네 ㄷㄷ
@minjae92
8 ай бұрын
ai 저체는 자원이 부족해서 따로 생산하진 않을거에요. 클라우드로 리소스 할당받아서 메인 폼 위에 성격을 클라이언트 서비스로 재설정하는 거 아니면...
@inuinuinuinuinuinu
Ай бұрын
유익하네
@user-bf7km6yt9t
7 ай бұрын
외국의 AI 전문가들이 말하는데 앞으로 종말을 고하는 전문직들은 의사, 판사, 세무사, 공인회계사,변호사, 연구가, 투자분석가들이라고 합니다. 그런데도, 영끌하지말라했는데 영끌해서 망하고 있는 사람들처럼 의대를 목표로 서울대 이공분야를 자퇴하고 재수를 해서 의사하겠다는 부류들이 바로 지금의 영끌족이 될걸로 확신이 서는군요. 미리 앞서 머리가 돌아가야해요. 양끌들은 그 자신도 문제지만 그 부모들이 더 큰 문제였어요. 조력자들입니다. 부모가 자식들을 망친 케이스들이라고 봐야겠죠.
@kkulmuzi
3 ай бұрын
생각해보면 ai로 학습을 한다는거 자체가 남의 창작물이나 데이터를 마음대로 ai의 데이터로 활용한다는건데 이거부터 잘못된게 아닌가 하는 생각이 드네 데이터를 활용하는 대신 그 소유주에게 합당한 보상을 해줘야지
@magoaustin1775
5 ай бұрын
나도 15년차 개발자인데.. 진짜 농담아니라 갓입사한 프로그래머들한테 맡기는 일들 걍 챗이랑 하면 더 빠름.
@Yun-fy9rp
2 ай бұрын
갓 입사한애들이랑 비교하면 안되지 바보야 ㅋㅋㅋㅋㅋ 그건 당연한거고
@user-lk2ub4uf1t
2 ай бұрын
저작권 개념이 바뀌거나 ai기술의 시스템이 근본적으로 바뀌거나. ai발전이 정지되는 일은 없을 것 같음. 현실적으로 전자가 될 가능성이 커보임
@sj8475
8 ай бұрын
기계를 두려워했던 사람들의 마음을 알 것 같기도
@zltmrmfls
8 ай бұрын
??? 인간이 이거면 이거겠다 상태의 답을 알았다는 단계는 넣은 정보가 충분히 커버 하던 때지 그걸 인간의 한계치가 넘어서게 쑤셔 놓고 딥러닝 하면서 로봇이야 연산은 빠밤 하고 가능 하니 왜그렇지 ? 상태 만큼 대답을 하지...는 뭐야 로봇은 원래 인간 보다 압도적인 능력이지... 무서워 해야 하는건 인간이 넣어둔 정보의 바탕으로 딥러닝 말고 스스로 생각하는 진짜 인공 지능이 태어나는 순간 로봇 입장에서 불필요한 소비와 파괴만을 하는 인간이란 종족을 굳이 지구상에 있어야 하나 ? 지울까지
@@user-qf3bd1ht1i 어휴 반대로 생각해야지 ㅉㅉ 인권과 윤리를 존중하며 기본소득제를 시행하는 게 아니라 기본소득제를 통해서 인간들의 목줄을 쥐는거야. AI랑 로봇으로 모든 생산, 소득 활동이 대체되면 기본소득말고 뭘로 먹고 살수 있겠냐? AI랑 로봇을 독점한 거대IT기업들과 권력층들의 말 잘듣는 사람들한테는 기본소득 잘주는 거고 말안들으면 안주는 건데 뭔 인권과 윤리를 존중해 ㅋㅋㅋㅋ
@user-qf3bd1ht1i
8 ай бұрын
@@user-dp1lx4in2w 그렇게 목줄 쥐게 만들고 어떻게 휘두를 지 생각 못 해봤냐? 그냥 디스토피아잖아
@bi_bi_bic
8 ай бұрын
신약 개발에서처럼 작업시간을 줄여주고 작업을 도와주는 획기적인 도구로서의 AI는 유용하지만 그림을 베끼고 대본을 써서 사람을 직접적으로 대체하려는 AI는 위협이 됨
@user-tx2no8nj4c
8 ай бұрын
인간의 영역도 침범하겠지요. AI판사.
@ithink2
7 ай бұрын
의사보다 인공지능이 더 병을 잘 진단하고 잘 수술하면 맡기는게 맞지
@user-dg9ji7bf3l
7 ай бұрын
AI가 이젠 단순히 베끼기만 하는게 아니라 인간처럼 '생각'이란 걸 해서 결과물을 내놓고 있기 때문에 더이상 막을 방법이 없음 충격에 대비하는 수밖에...
@user-tg9jp1bu9g
6 ай бұрын
뭔 ㅋㅋ 예술가 올려치기 ㅈ되네
@jilee950
5 ай бұрын
Ai가 인간을 베낀다 ㅇㅈ 근데 인간도 인간을 베낌 더 잘 베끼는 Ai 승 ㅋ
@uridoori
4 ай бұрын
콧소리가 정말 매력적인 진행자입니다. 콧소리에서 지성이 보입니다.
@jinjan-qd9si
8 ай бұрын
기업도 소비가 있어야 수익이 생기고 소비자는 소비를 해야 경제가 돌아가니 기본소득뿐이겠네요.
@user-wz4ck3ju7h
3 ай бұрын
영체가 들어가니까. 눈에 보이지 않지만 사람 주변에 존재하던 영혼이 AI라는 몸체에 들어가니 감정표현 및 학습되지 않은 자료도 나오는것은 아닐까? 고로 매우 위험한 존재. 왜냐면 만든 사람에게 종속되지 않은 별개의 존재로 인간이 가지지 못한 특별한 능력도 가질 수 있으니...
@newstream100
8 ай бұрын
구글의 사칙이 악랄해지지 말자 인데 세상에서 가장 악랄한 기업이 되었네
@user-jt6rv2kp7u
8 ай бұрын
실수로 결제하도록 유도하고 환불도 잘 안해줌.
@cs915
5 ай бұрын
@@user-jt6rv2kp7u 당해본입장에서 개공감. 11만원 실수로 결제하고 여기저기 연락해봤으나 실패
@user-qn8wj6vs8l
6 ай бұрын
고급진 방송ㆍ우와~~~
@j83231542
3 ай бұрын
인간이 노동으로부터 벗어난다는 건 큰 축복입니다.
@josephjang4411
6 ай бұрын
AI 치명적 일Mission critical에는 묫쓴다.... 감사합니다....
@52683
7 ай бұрын
와우~ 대단한 기술이네요.화장실 갔다 갑자기 ai가 학습능력에 자기개발에 자기진화를 거치면서 자체발전한다면 그 지능이 끝이 없겠다.그러면 천지가 개변하는 일도 생길수 있겠다 상상하고 ai영상을 검색해서 이것을 보았습니다.사람이 뇌를 수십억년 진화한 지능도 갖출수 있는 ai가 될수 있는건 어렵지 않은것 같네요.
지식이 사라지고 상상이 살아나야 합니다. 버릴것은 우리의 고정된 관념이며 인공지능이 나타나면 상상이 없으면 살수가 없게 됩니다. 만명의 지식과 싸우는 것은 불가능 하며 인공지능은 약을 찾아주고 수학문제를 찾아주고 논리에 서고 평생을 그렇게 보내지 않게 될것입니다. 이제껏 외부적인 공부를 하였다면 모두가 내면을 공부하게 됩니다. 태양을 보고 호흡하고 가장 안전한 상태가 오게 됩니다.
Пікірлер: 820