생성형AI란 무엇인가? <정의, 주요 서비스, 보안 위험성>

 

요즘 IT계의 뜨거운 감자로 떠오른 '생성형 AI'

생성형 AI 관련한 정의와 주요 서비스, 보안 위험성을 알아보도록 합시다!

 

 

 

 

생성형 AI란?

영어로 Generative AI(Artificial Intelligence, 인공지능)입니다.

생성형 AI란 텍스트, 오디오, 이미지 등의 기존 콘텐츠를 활용하여 유사한 콘텐츠를 새로 만들어내는 인공지능 기술입니다. 단순히 콘텐츠의 패턴을 학습하여 추론 결과로 새로운 콘텐츠를 만들어 내는 것을 넘어 콘텐츠의 생성자와 만들어진 콘텐츠를 평가하는 판별자가 끊임없이 서로 대립하고 경쟁하며 새로운 콘텐츠를 생성해 내는 기술입니다.

 

 

생성형 AI의 활용

엔비디아는 Generative AI를 크리에이터, 엔지니어, 연구원, 과학자의 연구 프로세스를 간소화하는 강력한 도구로 소개하고 있습니다. 생성형 AI의 활용 관련한 사용 사례와 가능성이 모든 사업 / 개인에게 열려있다고 표현합니다.

 

생성형 AI의 활용/사용 사례 - 엔비디아

 

 

주요 생성형 AI 서비스 둘러보기

 

비휴먼(bHuman) : 개인화된 비디오 대량 발송
주로 마케팅, 영업용으로 사용되며, 개인화된 대량 이메일을 발송할 수 있습니다.

사용자가 준비해 둔 동영상에 고객 이름을 AI가 자동으로 채워주는 서비스입니다.

 

 

브라우즈 AI(Browse AI) : 웹사이트 모니터링

브라우즈 AI는 웹 사이트에서 변화하는 콘텐츠와 가격을 지속적으로 파악하는 데 매우 유용합니다. 웹사이트가 API를 제공하지 않거나 잘못된 API를 제공해도 상관없습니다. 사용자는 데이터 추출에 필요한 API를 쉽게 만들 수 있으며, 이를 원하는 콘텐츠를 추적하는 데 사용할 수 있습니다.

 

 

ChatGPT : 지시대로 만드는 텍스트와 프로그램

 

<챗GPT가 작성한 챗GPT를 이해할 수 있게 요청한 글>

 

챗GPT란 무엇이며 어떻게 작동하나? 챗GPT는 오픈AI에서 개발한 인공지능(AI) 언어 모델이다. 방대한 양의 문자정보를 학습해 자연어와 같은 언어를 이해하고 생성할 수 있다. ​ 챗GPT는 언어를 이해하고 만들어내는 데 트랜스포머 기술이라는 일종의 AI를 사용한다. 이 기술은 챗GPT가 단어의 문맥과 의미를 이해해 자연스러운 대화를 나누고 글을 쓸 수 있게 도와준다. 챗GPT는 챗봇, 기사 작성 등 다양한 분야에서 사용할 수 있습니다. 질문에 답변하고 글을 요약하는 등의 맞춤형 작업도 가능하다. ​ 결론적으로 챗GPT는 우리가 기술과 상호작용하는 방식을 획기적으로 바꿀 수 있는 가능성을 가진 강력하고 혁신적인 AI 언어 모델이다. 오픈AI는 계속해서 기술을 발전시키고 있으며 더 많은 분야에서 챗GPT를 사용할 것으로 기대하고 있다.

긴 설명이 필요 없는 서비스입니다. ChatGPT는 스스로 다양한 종류의 텍스트를 쓰고 프로그램 코드를 작성할 수 있으며, 소프트웨어 코드를 디버깅할 때도 유용합니다.

 

클립드롭(ClipDrop) : 지능형 디자인 도우미

AI 툴 클립드롭은 스스로 “디자인 도우미”라고 설명합니다. 노출이나 색상, 화질 등을 최적화해 이미지의 품질을 개선하며, 필요하면 배경도 없애 줍니다.

 

 

컴포즈 AI(Compose AI) : 이메일 응답

컴포즈 AI는 구글 크롬 브라우저용 확장 프로그램으로, 이메일에 더 빨리 응답할 수 있도록 지원하는 것이 핵심 기능입니다. 동작 방식은 ChatGPT와 유사합니다.

 

 

달리(DALL-E2) : 설명에 따라 그림 그리기

AI 달리2가 그린 &lsquo;인간의 형상을 한 로봇이 아이들과 교감을 나누는 사진&rsquo;

ChatGPT만큼이나 잘 알려진 생성형 AI로, 사용자의 설명을 듣고 지시에 따라 새로운 그림을 그려줍니다. 물론 결과물은 프롬프트, 즉 사용자의 설명이 얼마나 정확하고 타당한지에 따라 달라집니다. 또한, 사용자의 이미지를 업로드하고 달리에게 수정을 요청할 수도 있습니다.

 

 

데스크립트 오버덥 : 음성 복제

생성형 AI가 만든 얼굴 기반 대화형 가상인간

데스크립트 오버덥은 음성을 정확하게 복제하는 데 많이 사용되는 오디오 및 비디오 편집 소프트웨어 중 하나입니다.

최근 딥브레인이 새롭게 선보인 가상인간은 딥러닝 기반의 페이스 스왑(Face Swap) 기술이 적용됐습니다.

 페이스 스왑은 사진 혹은 영상에 있는 얼굴을 인식하여 얼굴 부분을 변환시키는 안면 교체 기술이다. 또한 음성복제 외 음성합성(TTS) 기술을 적용해, 한국어는 물론 영어, 스페인어 등 50여 개의 언어와 다양한 음색을 구사할 수 있으며, 딥브레인 AI만의 정교한 립싱크 기술로 입모양, 표정 등 자연스러움을 극대화한 서비스입니다.

 

 

D-ID.com : 실시간 비디오 제작

D-ID.com의 AI 지원 동영상 플랫폼인 크리에이티브 리얼리티(Creative Reality Studio)는 쉽고 빠르게 동영상을 제작하는 데 안성맞춤입니다. 사용자는 실사 이미지나 일러스트로 그린 얼굴을 아바타로 선택하고, 듣기 좋은 목소리를 고른 다음, 아바타가 낭독할 텍스트를 입력하기만 하면 됩니다.

 

 

듀러블(Durable) : 30초 만에 웹 사이트 구축

듀러블은 AI를 이용해 텍스트, 이미지 및 연락처 양식이 있는 간단한 웹사이트를 30초만에 구축할 수 있다고 자신합니다. 사용자가 비즈니스의 종류와 회사 또는 사람의 이름을 입력하면, AI는 적절한 이미지, 설명 및 요소로 웹 사이트 디자인을 제안합니다.

 

 

 

 

생성형 AI의 보안 위험성

 

① 학습 데이터 측면

 

챗GPT 학습 보안 취약점이 있습니다. 대표적으로 데이터 유출​에 관한 점이죠. 데이터 유출은 꼭 생성형 AI를 이용하지 않더라도 간간히 발생하는 보안 사고입니다.

​

생성형 AI가 데이터를 썼다가 버리는 경우는 없습니다. 입력된 모든 데이터를 저장하고 이를 기반으로 학습하는 것이 생성형 AI 특징이니까요. 또한 저작권에도 문제가 될 수 있습니다.

 

 

② AI 모델 측면

 

AI는 학습한 데이터를 바탕으로 추론하고, 값을 생성합니다. 이로 인해 개인정보나 금융 정보 등 개인정보보호법에서

규정하는 민감한 정보에 해당하더라도 오류로 인해 충분히 그 값을 노출시킬 수 도 있습니다.

챗GPT만 해도 성능의 한계가 있기 때문에 전혀 무관한 데이터를 내놓기도 하니까요.

 

 

 

 

마무리하며

 

생성형 AI의 발전으로 인해 언어 처리, 이미지 및 음성 인식 등 다양한 분야에서 혁신이 이루어지고 있으며, 이러한 기술들이 앞으로 더욱 성장하며 미래의 인공지능 발전에 기여할 것으로 기대됩니다.

하지만 IT기술이 발전할수록 해킹이나 보안위협은 필연적으로 발전할 수밖에 없습니다. 

 

AI데이터 보안 취약점을 방지하기 위해 정부차원의 규제 혹은 개인적인 보안 강화가 더 이루어져야 할 것 같습니다.