AI시대, 빌 게이츠와 샘 올트먼 대화 (2부) = 'Between Bill Gates and Sam Altman (Part 2)'

 

저는 엔터테인먼트 산업의 IT 혁신에 도전하고 있는 배우 캐스팅 플랫폼 '플필'(http://www.plfil.com)의 류민국 대표라고합니다.

많은 사람들이 그렇듯, AI 시대가 인류 문명과 사회를 어떻게 바꿔 나갈지는 저의 큰 관심사 입니다.

2024년 1월 11일,
현 AI 시대의 헤게모니를 주도하는 두 인물인 MS와 OpenAI의 리더, 빌 게이츠&샘올트만의 팟캐스트가  빌게이츠의 유튜브에 공개되었습니다.

 

I am Min-guk You, CEO of "PLFIL" (http://www.plfil.com), an actor casting platform that challenges IT innovation in the entertainment industry In South Korea.

Like many others, I am greatly interested in how the age of AI will transform human civilization and society.

On January 11, 2024, a podcast featuring two leading figures in the current AI era, Bill Gates of Microsoft and Sam Altman of OpenAI, was released on Bill Gates' YouTube channel.

 

https://www.youtube.com/watch?v=PkXELH6Y2lM

 

이 대화 전문을 영/한 번역을 해서 한국 독자분들께 공유드립니다. 

(OpenAI의 Chat GPT 도움을 받았습니다)

 

I am sharing this conversation with Korean readers, translated into both English and Korean,
(with the help of OpenAI's Chat GPT.)

Sam Altman:   For nuclear energy, we decided the same thing. This needs a global agency of some sort, because of the potential for global impact. I think that could make sense. There will be a lot of shorter term issues, issues of what are these models allowed to say and not say? How do we think about copyright? Different countries are going to think about those differently and that’s fine.

샘 올트먼 :  핵 에너지의 경우에도 우리는 똑같은 결정을 내렸습니다. AI 가 가져올 글로벌 영향을 가져올 가능성 때문에 어떤 종류의 국제 기관이 필요합니다. 저는 그게 합리적이라 생각합니다.
더 짧은 기간의 문제도 많을 것이며, 이러한 규제기관이 어떤 내용을 얘기해도 되고, 안 되는지에 대한 문제도 있을 것입니다. 저작권을 어떻게 생각해야 할까요? 모든 국가들은 이러한 문제들을 각자 다르게 생각할 것이고, 그것은 괜찮습니다.

Bill Gates: Some people think if there are models that are so powerful, we’re scared of them – the reason nuclear regulation works globally, is basically everyone, at least on the civilian side, wants to share safety practices, and it has been fantastic. When you get over into the weapons side of nuclear, you don’t have that same thing.

빌 게이츠:  사람들은 어떤 과학기술이 너무 강력하다면, 우리가  그것을 무서워 할것이고, (- 핵 규제가 글로벌로 작동하는 이유는 사실 민간 분야에서는 적어도 모든 사람들이 안전 관행을 공유하고 싶어하기 때문입니다.- ) 그리고 (이 무서움에 의한 규제가) 놀라우리만큼 효과적었다고 생각합니다.

그러나 핵 무기의 경우에는 그렇지 않았습니다.

(많은 국가들이 핵무기를 소유하고 잠재적으로 큰 위험에 놓이게 된 현재 인류 문명 상황)

Bill Gates: If the key is to stop the entire world from doing something dangerous, you’d almost want global government, which today for many issues, like climate, terrorism, we see that it’s hard for us to cooperate.

빌 게이츠:  만약 핵 에너지와 관련하여 전 세계가 위험한 행동을 멈추려면 거의 세계 정부 같은 것이 필요할 것 같습니다. (그럼에도) 오늘날 많은 문제에서 기후, 테러리즘과 같이 서로 협력하기 어렵다는 것을 볼 수 있습니다.

Bill Gates:  People even invoke U.S.-China competition to say why any notion of slowing down would be inappropriate. Isn’t any idea of slowing down, or going slow enough to be careful, hard to enforce?

빌 게이츠:    사람들은 심지어 미국과 중국의 경쟁을 인용하여 (AI 기술개발의) 속도를 늦추려는 아이디어가 부적절하다고 주장하기도 합니다. (AI 개발속도를) 늦추려는 어떤 아이디어나, 또는 주의를 기울여서 신중하게 진행하는건 어렵지 않을까요?

Sam Altman:  Yes, I think if it comes across as asking for a slowdown, that will be really hard. If it instead says, "Do what you want, but any computeBill Gates: cluster above a certain extremely high-power threshold” – and given the cost here, we’re talking maybe five in the world, something like that – any cluster like that has to submit to the equivalent of international weapons inspectors. The model there has to be made available for safety audit, pass some tests during training, and before deployment. That feels possible to me. I wasn’t that sure before, but I did a big trip around the world this year, and talked to heads of state in many of the countries that would need to participate in this, and there was almost universal support for it.

샘 올트먼 :     네, 늦추는 것에 대해 요청하는건, 정말로 어려울 것입니다. 그 대신 "원하는 대로 하세요, 그러나 특정한 매우 높은 파워 임계값 이상의 컴퓨터 클러스터" - 그리고 여기서 비용을 고려하면 세계에 5개 국가 정도- 그런 정도를 생각하고 있습니다 - 그런 클러스터는 국제 무기 감사관과 동등한 것에 무언가를 제출해야 합니다. 

그 AI 모델은 안전 감사를 위해 사용 가능해야 하며 훈련 중에 일부 테스트를 통과하고, 배치 전에 특정 테스트를 통과해야 합니다. 이러한 규제는 나에게 가능하게 느껴집니다. 
이전에는 확실히 그렇게 생각하지 않았지만, 올해 전 세계를 여행하며 이 문제에 참여해야 할 여러 국가들의 국가 수장들과 이야기를 나누었고 거의 만장일치로 지지를 받았습니다.

 

Sam Altman: That’s not going to save us from everything. There are still going to be things that are going to go wrong with much smaller-scale systems, in some cases, probably pretty badly wrong. But I think that can help us with the biggest tier of risks.

샘 올트먼 :   이것이 우리를 모든 것에서 구해주지는 않을 것입니다. 여전히 훨씬 작은 규모의 시스템에서 문제가 발생할 것이며, 경우에 따라서는 상당히 심각한 문제가 발생할 것입니다. 
그러나 이러한 작은 문제들이 가장 큰 등급의 위험들에 대해 우리를 도울 수 있을 것으로 생각합니다.

Bill Gates: I do think AI, in the best case, can help us with some hard problems.

빌 게이츠:  저는 AI는 최상의 경우에, (인류가 마주한)어려운 문제 몇 가지를 해결하는 데 도움이 될 수 있다고 생각합니다.

 

Bill Gates:   (For sure.) Including polarization because potentially that breaks democracy and that would be a super-bad thing. Right now, we’re looking at a lot of productivity improvement from AI, which is overwhelmingly a very good thing.

빌 게이츠:   (확실히 그렇습니다.) 사회 극단화 를 포함해서, 왜냐하면 극단화는 민주주의를 파괴할 수 있고, 그것은 매우 부정적인 일이기 때문입니다.

현재로서 AI에서 인류는 생산성 향상을 많이 보고 있으며, 이는 전반적으로 매우 긍정적인 일입니다.

Bill Gates: Which areas are you most excited about?

빌 게이츠:   당신에게 (AI의 발전과 관해)가장 흥미로운 영역은 어떤 것인가요?

Sam Altman: First of all, I always think it’s worth remembering that we’re on this long, continuous curve. Right now, we have AI systems that can do tasks. They certainly can’t do jobs, but they can do tasks, and there’s productivity gain there. Eventually, they will be able to do more things that we think of like a job today, and we will, of course, find new jobs and better jobs. I totally believe that if you give people way more powerful tools, it’s not just that they can work a little faster, they can do qualitatively different things. Right now, maybe we can speed up a programmer 3x. That’s about what we see, and that’s one of the categories that we’re most excited about it. It’s working super-well. But if you make a programmer three times more effective, it’s not just that they can do three times more stuff, it’s that they can – at that higher level of abstraction, using more of their brainpower – they can now think of totally different things. It’s like going from punch cards to higher level languages didn’t just let us program a little faster, it let us do these qualitatively new things. We’re really seeing that. As we look at these next steps of things that can do a more complete task, you can imagine a little agent that you can say, "Go write this whole program for me, I’ll ask you a few questions along the way, but it won’t just be writing a few functions at a time.” That’ll enable a bunch of new stuff. And then again, it’ll do even more complex stuff. Someday, maybe there’s an AI where you can say, "Go start and run this company for me." And then someday, there’s maybe an AI where you can say, "Go discover new physics." The stuff that we’re seeing now is very exciting and wonderful, but I think it’s worth always putting it in context of this technology that, at least for the next five or ten years, will be on a very steep improvement curve. These are the stupidest the models will ever be.

샘 올트먼 :   먼저 항상 우리가 이 긴 연속적인 곡선 위에 있다고 생각하는 것이 가치가 있다고 생각합니다. 현재 우리는 작업을 수행할 수 있는 AI 시스템을 가지고 있습니다. 그들은 직업은 아니지만 작업을 수행할 수 있으며, 그곳에는 생산성 향상이 있습니다. 결국, 그들은 오늘날의 직업과 유사한 더 많은 것들을 수행할 수 있게 될 것이며, 물론 새로운 직업과 더 좋은 직업을 찾게 될 것입니다. 저는 사람들에게 훨씬 강력한 도구를 제공하면 그들이 조금 더 빨리 일할 수 있다는 것뿐만 아니라 정성적으로 다른 것들을 수행할 수 있다고 확신합니다.
현재로서 프로그래머(개발자)의 속도를 AI가 3배 빨리 할 수 있다고 가정해 봅시다. 그것이 우리가 보는 것입니다. 이것은 우리가 가장 흥미로워하는 범주 중 하나입니다. 아주 잘 작동하고 있습니다. 그러나 프로그래머를 세 배 더 효과적으로 만들면 프로그래머는 세 배 더 많은 일을 할 수 있는 것뿐만 아니라 더 높은 수준의 추상화를 사용하여 완전히 다른 것들을 생각할 수 있게 됩니다. 이
제 혹시 "이 프로그램을 전부 내 대신 작성해 주세요. 중간에 몇 가지 질문을 할 수 있겠지만, 한 번에 몇 가지 함수를 작성하는 것뿐만 아니라"하는 작은 에이전트를 상상해 볼 수 있습니다. 그것은 새로운 것들을 가능하게 할 것입니다. 그리고 다시 한 번, 그것은 더 복잡한 일을 할 것입니다. 
언젠가는 아마도 "이 회사를 내 대신 시작하고 운영하세요"라고 말할 수 있는 AI가 있을 수 있습니다. 지금으로서는 우리가 보는 것이 매우 흥미롭고 멋진 것이지만, 적어도 다음 5년에서 10년 동안은 매우 급격한 기술 발전 곡선 위에 있을 AI 기술에 관점을 항상 두는 것이 가치가 있습니다. 현재 우리가 보고 있는 이 AI 모델이 가장 어리석은 상태가 될 것입니다.

Sam Altman:  Coding is probably the single area from a productivity gain we’re most excited about today. It’s massively deployed and at scaled usage at this point. Healthcare and education are two things that are coming up that curve that we’re very excited about too.

샘 올트먼 :    코딩은 아마도 오늘날 가장 큰 생산성 이득을 기대하는 분야일 것입니다. 현재로서는 대규모로 배포되고 확장되고 있습니다. 건강 관리와 교육은 우리가 매우 기대하는, AI 발전 곡선을 따라 발전할 두 가지 분야입니다. 

Bill Gates: The thing that is a little daunting is, unlike previous technology improvements, this one could improve very rapidly, and there’s kind of no upper bound. The idea that it achieves human levels on a lot of areas of work, even if it’s not doing unique science, it can do support calls and sales calls. I guess you and I do have some concern, along with this good thing, that it’ll force us to adapt faster than we’ve had to ever before. That’s the scary part.

 

빌 게이츠:    약간 무섭다고 생각하는 것은, 이전 기술 발전과 달리 AI기술은 매우 빠르게 발전할 수 있으며 상한선이 없다는 것입니다. 이것이 많은 업무 영역에서 인간 수준을 달성할 것이고, 심지어 특별한 과학적인 일을 하지 않더라도, 상담 통화(상담이나 기술 지원 등)과 영업 통화(세일즈 콜)를 할 수 있습니다. 
아마도 당신과 나는 이 좋은 일과 함께, 우리가 이전에 기술발전을 경험한 것보다 AI가 가져올 변화에 더 빨리 적응해야 한다는 점을 공유하고 있습니다. 이게 무서운 부분입니다.

 

Sam Altman: It’s not that we have to adapt. It’s not that humanity is not super-adaptable. We’ve been through these massive technological shifts, and a massive percentage of the jobs that people do can change over a couple of generations, and over a couple of generations, we seem to absorb that just fine. We’ve seen that with the great technological revolutions of the past. Each technological revolution has gotten faster, and this will be the fastest by far. That’s the part that I find potentially a little scary, is the speed with which society is going to have to adapt, and that the labor market will change. One aspect of AI is robotics, or blue-collar jobs, when you get hands and feet that are at human-level capability.

샘 올트먼 :   우리가 적응해야 한다는 것은 아닙니다. 
인류가 적응 가능하지 않다는 것도 아닙니다. 
인류는 이러한 대규모 기술적 변화들을 거쳐왔으며, 사람들이 하는 작업 중 상당한 비율이 몇 세대 동안 변할 수 있고, 몇 세대 동안 그 변화를 잘 흡수할 수 있습니다. 이것은 지난 과거의 대규모 기술 혁명들에서 확인해 왔습니다. 각 기술 혁명마다 속도가 더 빨라지고, 이것은 현시대에 가장 빠를 것입니다. 
그것이 나에게 잠재적으로 약간 무서운 부분인데, 바로 사회가 적응해야 할 속도와 노동 시장이 변화할 속도입니다.
AI 발전의 한 측면은 로봇 또는 육체 노동 업무,즉 (AI와 로봇의)손과 발이 인간 수준의 능력을 갖추게 될 때입니다.

 

 

 

Bill Gates: The incredible ChatGPT breakthrough has kind of gotten us focused on the white-collar thing, which is super appropriate, but I do worry that people are losing the focus on the blue-collar piece.

빌 게이츠:   놀라운 ChatGPT의 발전은 우리를 지식 노동자(화이트 칼라) 측면에 집중하게 만들었으며, 이는 매우 적절한 것이지만, 나는 사람들이 육체 노동자 부분에 주안점을 잃고 있다는 걱정이 있습니다.

Sam Altman: So how do you see robotics? Super-excited for that. We started robots too early, so we had to put that project on hold. It was hard for the wrong reasons. It wasn’t helping us make progress with the difficult parts of the ML research. We were dealing with bad simulators and breaking tendons and things like that. We also realized more and more over time that we first needed intelligence and cognition, and then we could figure out how to adapt it to physicality. It was easier to start with that with the way we built these language models. But we have always planned to come back to it. We’ve started investing a little bit in robotics companies. On the physical hardware side, there’s finally, for the first time that I’ve ever seen, really exciting new platforms being built there. At some point, we will be able to use our models, as you were saying, with their language understanding and future video understanding, to say, “All right, let’s do amazing things with a robot.”

 

 

샘 올트먼 :  로봇 과제에 대한 여러 생각을 어떻게 보세요? 그것에 대해 너무 흥분합니다. 우리는 로봇 프로젝트를 너무 일찍 시작해서 그 프로젝트를 일시 중단해야 했습니다. 이것은 잘못된 이유로 어려웠습니다. 그것은 기계 학습 연구의 어려운 부분을 진전시키는 데 도움이 되지 않았습니다. 우리는 나쁜 시뮬레이터와 힘줄을 부러뜨리는 등의 문제를 다루고 있었습니다. 또한 시간이 지남에 따라 우리는 더 많이 깨달았습니다. 우리는 먼저 지능과 인식이 필요했고, 그런 다음 물리적 측면에 대한 적응 방법을 찾을 수 있었습니다. 이러한 언어 모델을 구축하는 방식으로 시작하는 것이 더 쉬웠습니다. 그러나 우리는 항상 다시 돌아 오기로 계획했습니다. 우리는 조금씩 로봇 기업에 투자하기 시작했습니다. 물리적 하드웨어 측면에서는 제게는 처음으로 보이는 것처럼 정말 흥미로운 새로운 플랫폼이 거기에 건설되고 있습니다. 언젠가는 우리 모델을 사용하여 언어 이해와 미래 비디오 이해를 활용하여 로봇을 사용해 놀라운 일을 할 수 있을 것입니다. 

 

Bill Gates:  If the hardware guys who’ve done a good job on legs actually get the arms, hands, fingers piece, and then we couple it, and it’s not ridiculously expensive, that could change the job market for a lot of the blue-collar type work, pretty rapidly.

빌 게이츠:  만약 하드웨어 업체들이 다리에 관련 일을 잘 해왔다면, 팔, 손, 손가락 부분을 얻고 그것을 결합하면 너무 비용이 들지 않는 한 육체 노동 시장을 많이 빠르게 바꿀 수 있을 것입니다.

Sam Altman:   Yes. Certainly, the prediction, the consensus prediction, if we rewind seven or ten years, was that the impact was going to be blue-collar work first, white-collar work second, creativity maybe never, but certainly last, because that was magic and human. Obviously, it’s gone exactly the other direction. I think there are a lot of interesting takeaways about why that happened. Creative work, the hallucinations of the GPT models is a feature, not a bug. It lets you discover some new things. Whereas if you’re having a robot move heavy machinery around, you’d better be really precise with that. I think this is just a case of you’ve got to follow where technology goes. You have preconceptions, but sometimes the science doesn’t want to go that way.

샘 올트먼 :    그렇습니다. 분명히 예측, 대개 동의되는  예측에는, 7년에서 10년 정도 되돌아간다면, 영향이 먼저 육체 노동에 미치게 될 것으로 예측되었습니다. 그 다음 지식 노동 계급, 창의성은 아마 결코 아닐거라 예상되거나, 분명 마지막이라 생각되었습니다
왜냐하면 그것은 마법과 인간이었습니다. (그러나 AI 는) 분명히 정반대로 발전해 왔습니다. 그렇게 된 이유에 대한 많은 흥미로운 교훈이 있다고 생각합니다. 창의적인 작업, GPT모델의 환각(AI의 그럴듯한 답변 오류)은 결함이 아니라 기능입니다. 새로운 것을 발견할 수 있게 해줍니다. 
반면에 로봇이 무거운 기계를 움직이도록 하는 경우, 그것을 정확하게 해야 합니다. 이것은 기술이 어떻게 발전해 가야 하는지에 따라 가야 합니다. 당신은 선입견을 가지고 있지만, 때로는 과학이 그렇게 가고 싶어하지 않을 수 있습니다.

------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------ ------------------------------------------------------------------

 

 

Bill Gates:    So what application on your phone do you use the most?

Sam Altman:    Slack.

빌 게이츠:     핸드폰에서 가장 많이 사용하는 응용 프로그램은 무엇인가요?     

샘 올트먼 :    슬랙.

Bill Gates: Really?

Sam Altman:   Yes. I wish I could say ChatGPT.

빌 게이츠:  정말요?

샘 올트먼 :   네. ChatGPT 라고 말할 수 있으면 좋겠네요.

 

Bill Gates:  Even more than e-mail?

빌 게이츠:   이메일보다 더 많이 사용하나요? 

Sam Altman:  Way more than e-mail. The only thing that I was thinking possibly was iMessages, but yes, more than that.

샘 올트먼 : 이메일보다 훨씬 많이. 아마 아이 메시지(아이폰 문자 메시지)를 생각한 것만큼 사용하실 수도 있겠지만, 그것보다 더 많이 사용합니다.

Bill Gates:  Inside OpenAI, there’s a lot of coordination going on.

빌 게이츠:  OpenAI 내부에서는 많은 조직화 작업이 이루어지고 있습니다. 

Sam Altman:    What about you?

샘 올트먼 :  빌, 당신은 무엇을 가장 많이 사용하십니까?

Bill Gates: It’s Outlook. I’m this old-style e-mail guy, either that or the browser, because, of course, a lot of my news is coming through the browser.

빌 게이츠:  Outlook입니다. 혹은 웹브라우저.
물론 저는 옛날 이메일 스타일 가이입니다.
혹은 웹 브라우저를 사용합니다. 
물론 제가 세상에 대해 접하는 뉴스는 대부분 웹브라우저를 통합니다. 

Sam Altman:   I didn’t quite count the browser as an app. It’s possible I use it more, but I still would bet Slack. I’m on Slack all day.

샘 올트먼 :  나는 브라우저를 앱으로 세지 않았지만, 
아마도 브라우저를 더 많이 사용할 수있지만, 그래도 슬랙에 베팅할 것 같습니다. 저는 하루 종일 슬랙에 있어요.

--------------------------------------------------------------------------------------------- ---------------- ---------------- ---------------- --------------------------------------------------------------------------------------------- ---------------- ---------------- ---------------- --------------------------------------------------------------------------------------------- ---------------- ---------------- ---------------- --------------------------------------------------------------------------------------------- ---------------- ---------------- ---------------- --------------------------------------------------------------------------------------------- ---------------- ---------------- ----------------

Bill Gates:   Incredible. Well, we’ve got a turntable here. I asked Sam, like I have for other guests, to bring one of his favorite records. So, what have we got?

Sam Altman:  I brought The New Four Seasons - Vivaldi Recomposed by Max Richter. I like music with no words for working. That had the old comfort of Vivaldi and pieces I knew really well, but enough new notes that it was a totally different experience. There are pieces of music that you form these strong emotional attachments to, because you listened to them a lot in a key period of your life. This was something that I listened to a lot while we were starting OpenAI. I think it’s very beautiful music. It’s soaring and optimistic, and just perfect for me for working. I thought the new version is just super great.

 

(Is it performed by an orchestra?) It is. The Chineke! Orchestra. (Fantastic.) Should I play it? (Yes, let’s.)

빌 게이츠:  놀라워요. 여기에 턴테이블이 있습니다. 다른 게스트에게 한 것처럼 Sam에게 가장 좋아하는 레코드 중 하나를 가져오라고 했습니다. 그럼, 어떤 레코드를 가져왔나요?

샘 올트먼 :   Max Richter에 의해 재구성된 The New Four Seasons - Vivaldi입니다. 일하는 동안 가사가 없는 음악을 좋아합니다. 이것은 예전의 Vivaldi와 매우 잘 알고 있는 곡들의 안정감이 있지만 완전히 다른 경험이었습니다. 생각해 볼 때 일부 곡들은 특별한 생명력을 가지고 있습니다. 왜냐하면 당신은 그것들을 당신의 삶의 중요한 시기 동안 많이 들었기 때문입니다. 이것은 OpenAI를 시작하면서 많이 들었던 것 중 하나입니다. 나는 이 음악을 매우 아름답다고 생각합니다. 그것은 소린하고 낙관적이며, 일하는 데 완벽합니다. 나는 새 버전이 정말로 훌륭하다고 생각했습니다

빌 게이츠:  그것은 오케스트라에 의해 연주됩니까?

샘 올트먼 :  네. Chineke! 오케스트라입니다. 

빌 게이츠:    환상적이에요. (재생해야 할까요?)

빌 게이츠:   네, 재생합시다.

 

[music – “The New Four Seasons – Vivaldi Recomposed: Spring 1” by Max Richter]

[음악 - Max Richter의 "The New Four Seasons - Vivaldi Recomposed : Spring 1"]

 

 

Sam Altman: This is the intro to the sound we’re going for. [music]

샘 올트먼 :  이것은 우리가 듣고 있는 소리의 서두입니다.

Bill Gates:  Do you wear headphones? (I do.) Do your colleagues give you a hard time about listening to classical music?

빌 게이츠:      헤드폰을 착용하십니까? (네 , 그렇습니다. ) // 동료들이 클래식 음악을 듣는 것에 대해 뭐라하지 않나요?

Sam Altman: I don’t think they know what I listen to, because I do wear headphones. It’s very hard for me to work in silence. I can do it, but it’s not my natural state. It’s fascinating. Songs with words, I agree, I would find that distracting, but this is more of a mood type thing. Yes, and I have it quiet. I can’t listen to loud music either, but it’s just somehow always what I’ve done. It’s fantastic. Thanks for bringing it.

샘 올트먼 :   그들은 내가 무엇을 듣고 있는지 모를겁니다. 왜냐하면 나는 헤드폰을 착용하고 있습니다. 나는 조용한 곳에서 일하기가 매우 어렵습니다. 그렇게 할 수는 있지만 나의 자연스러운 상태는 아닙니다. 그것은 매우 흥미롭습니다. 가사가 있는 노래, 그것은 집중력을 방해할 것 같습니다. 그러나 이것은 분위기에 관한 것입니다. 네, 그리고 나는 소리를 조용하게 합니다. 큰 소리의 음악을 듣는 것은 할 수 없습니다. 그러나 어떻게든 항상 내가 한 일입니다. 그것은 환상적입니다. 가져와 주셔서 감사합니다.

 

----------------------------------------------------------------------------------------------------------------------------------- ----------------------------------------------------------------------------------------------------------------------------------- ----------------------------------------------------------------------------------------------------------------------------------- -----------------------------------------------------------------------------------------------------------------------------------

Bill Gates:   Now, with AI, to me, if you do get to the incredible capability, AGI, AGI+, there are three

Bill Gates: There are three things I worry about. One is that a bad guy is in control of the system. If we have good guys who have equally powerful systems, that hopefully minimizes that problem.

빌 게이츠:    이제 AI를 사용하여 미래의 문제 중 일부에 적용하는 방법은 제게 있어서는, 놀라울 정도로 능력을 갖게 된다면 AGI(인공일반지능, 사람 수준 이상의 인공지능), AGI+(AGI보다 더 뛰어난 인공지능)
에 대해 우려되는 세 가지가 있습니다.

빌 게이츠: 1.나는 나쁜 사람이 AI 시스템을 제어할 가능성이 걱정됩니다.우리가 좋은 사람들이 동등한 권한을 갖는 시스템을 가지고 있다면 이 문제를 최소화할 수 있겠죠.

 

Bill Gates:  There’s the chance of the system taking control. For some reasons, I’m less concerned about that. I’m glad other people are. The one that sort of befuddles me is human purpose.

빌 게이츠:    2. 시스템이 제어를 가져갈 가능성도 있습니다. 어떤 이유에서인지 나는 그에 대해 덜 걱정하고 있습니다. 다른 사람들이 그것에 대해 걱정하는 것을 기뻐합니다. 제게는 약간 난해한 것은 인간의 목적입니다.

Bill Gates: I get a lot of excitement that, hey, I’m good at working on malaria, and malaria eradication, and getting smart people and applying resources to that. When the machine says to me, "Bill, go play pickleball, I’ve got malaria eradication. You’re just a slow thinker," then it is a philosophically confusing thing.

빌 게이츠:  저에게는 다음과 같은일이 굉장히 의미있고 흥분되는 일입니다. "나는 말라리아 및 말라리아 근절에 집중하며 , 똑똑한 사람들을 모으고 그들을 적절하게 일하게 하는 데 뛰어납니다. 
그런데 3. AI 기계가 내게 "빌, 말라리아 근절을 내가 할게, 넌 느리게 생각하는 사람이니까"라고 말하면 이는 철학적으로 혼란스런 일입니다.

Bill Gates:  How do you organize society? Yes, we’re going to improve education, but education to do what, if you get to this extreme, which we still have a big uncertainty. For the first time, the chance that might come in the next 20 years is not zero.

빌 게이츠:  이러한 상황에서 사회를 어떻게 조직할까요? 
네, 우리가 교육을 개선할 것이라 생각하지만, 이렇게 AI 기술이 극단에 다다르고, 여전히 AI 에 관해 큰 불확실성이 있는상황에서, 교육이 무엇을 해야할까요? 앞으로  20년 동안 충분히 이러한 혼재가 일어날 가능성이 있습니다.

 

 

 

Sam Altman:  There’s a lot of psychologically difficult parts of working on the technology, but this is for me, the most difficult, because I also get a lot of satisfaction from that. (You have real value added.) In some real sense, this might be the last hard thing I ever do.

샘 올트먼 :   기술에 관해 일하면서 정말로 심리적으로 어려운 부분이 많습니다. 
그란 기술은 나를 위한 것이고, 저는 또한 기술의 발전에서 큰 만족감을 느낍니다. 
(샘, 당신은 정말로 기여했다)
"어떤 실질적 의미에서는, 이 기술에 관한 일이 제가 해야할 가장 마지막 힘든 일이 될 지도 모릅니다."

(→ 이 발언은 AI 기술이 어느 지점에 도달하면, 더 이상 인간이 해결해야 할 '어려운 일들'이 거의 남지 않을 것이라는 의미를 내포하고 있는 것으로 해석될 수 있습니다. 역자 류민국 주석, supported by gpt 4.0)

Bill Gates  Our minds are so organized around scarcity; scarcity of teachers and doctors and good ideas that, partly, I do wonder if a generation that grows up without that scarcity will find the philosophical notion of how to organize society and what to do.

빌 게이츠:       우리의 마음은 교사와 의사, 좋은 아이디어의 부족 등 '세상의 부족함'을 중심으로 조직되어 있습니다.
'부족함이 없는 세대'가 어떻게 사회를 조직하고 무엇을 해야 할지에 대한 철학적 개념을 찾을 수 있을지 궁금합니다.

Bill Gates: Maybe they’ll come up with a solution. I’m afraid my mind is so shaped around scarcity, I even have a hard time thinking of it. That’s what I tell myself too, and it’s what I truly believe, that although we are giving something up here, in some sense, we are going to have things that are smarter than us.

빌 게이츠:   그럼 그들은 해결책을 찾을지도 모르겠습니다. 나는 내 마음이 '부족함'을 중심으로 형성되어 있어 이러한 풍요의 시대(노동의 종말)를 생각하는 게 어려운 경우가 있다. 이것은 나에게 하는 말이기도 하고 내가 진심으로 믿는 것이기 때문입니다. 어떤 의미에서는 인류보다 똑똑한 것들을 가지게 될 것이라고 생각합니다.

Sam Altman: If we can get into this world of post-scarcity, we will find new things to do. They will feel very different. Maybe instead of solving malaria, you’re deciding which galaxy you like, and what you’re going to do with it. I’m confident we’re never going to run out of problems, and we’re never going to run out of different ways to find fulfilment and do things for each other.

샘 올트먼 :   만약 인류가 '포스트- 부족함 세계'로 진입할 수 있다면, 우리는 새로운 일들을 찾을 것입니다. 그 일들은 매우 다르게 느껴질 것입니다. 인류는  말라리아를 치료하는 대신 어떤 은하를 좋아하는지, 그리고 그 은하에관해 당신이 무엇을 할 지를 결정하는 것을
알츠하이머 치료약을 발견하는 대신에 할 수 있습니다. 저는 인류의 문제가 다 해결되지는 않을 것이며, 서로가 만족감을 찾고 일을 하는 다양한 방법이 절대 부족하지 않을 것이라고 확신합니다.

Sam Altman:  It is going to be different for sure, but I think the only way out is through. We have to go do this thing. It’s going to happen. This is now an unstoppable technological course. The value is too great. And I’m pretty confident, very confident, we’ll make it work, but it does feel like it’s going to be so different.

샘 올트먼 :    확실히 다를 것입니다. 그러나 나는 유일한 해결책이 그것을 통해 나가는 것이라고 생각합니다. 우리는 이것을 해야 합니다. 이 AI 발전은 반드시 일어날 것입니다.(필연입니다) 이제 이것은 멈출 수 없는 기술적인 과정입니다. 가치가 너무 큽니다. 그리고 나는 꽤 확신을 갖고 있으며, 매우 확신을 갖고 있습니다. 우리는 그것을 작동시킬 것이라고 생각하지만, 그것은 정말로 매우 다를 것 같습니다.

Bill Gates:   The way to apply this to certain current problems, like getting kids a tutor and helping to motivate them, or discover drugs for Alzheimer’s, I think it’s pretty clear how to do that. Whether AI can help us go to war less, be less polarized; you’d think as you drive intelligence, and not being polarized kind of is common sense, and not having war is common sense

빌 게이츠:   현재의 문제에 AI 적용하는 방법 = 아이들에게 가정교사를 제공하고, 그들을 도와 동기부여하는 것과 같은 일부 문제에 대해선 꽤 명확하다고 생각합니다.

-AI가 전쟁을 덜 일으키도록 도와주거나, 편협함을 줄이도록 도와줄 수 있을까요? 
지능을 높이면 사고가 편협하지 않게되어, 상식적이고, 전쟁을 일으키지 않는 것도 상식적이라고 생각할 텐데요.(...)

 

 

[3부에 이어서...]

[Continuing in Part 3...]