바로가기 메뉴
본문 바로가기
주메뉴 바로가기
360° 영상을 활용한 가상현실 기반의 검사원 훈련 시뮬레이터 개발
2022년 01월 05일



기고자 
 

길우성 책임, 이은주 검사원, 이경호 검사원  

ICT솔루션팀  



1. 서 론

선박 검사원은 선체 및 기관에 대한 종합적인 이해를 바탕으로 지속적으로 제·개정되는 국제 협약 및 선급 규칙을 항상 숙지해야 하며, 그에 따른 규정 및 규칙 의거하여 선박 검사를 수행하고 있다. KR에서는 자체 교육시스템을 통해 검사원이 검사 전반에 대한 이론 및 실무 기술을 습득하도록 하고 있으며, 대부분의 훈련과정은 이론 교육 및 현장 동행 교육으로 구성된다.


표 1에서 보는 바와 같이 이론 교육 및 현장 교육은 전통적으로 진행되어 온 학습 과정으로 교육 자료 및 절차의 양과 질 측면에서 체계적으로 정립되어 있지만 두 교육이 양립할 수 없는 문제를 내포하고 있다. 


이러한 단점을 극복하기 위하여 KR에서는 가상현실 기반의 통합 검사훈련 시스템을 소개하고자 한다. 소개하는 소프트웨어는 360° 영상을 기반으로 가상의 선박환경을 구축하여 선박 검사원이 언제라도 가상의 선박 공간 내에서 선박 검사에 필요한 규칙과 규정을 확인하고, 더 나아가 선임 검사원의 노하우를 함께 훈련할 수 있는 가상현실 기반의 통합 검사훈련 시스템이다.




이론 교육



교육
방법



국제해사기구(IMO), 국제선급협회(IACS) 등의 관련 기관에서 발행한 규정 및 규칙과 선박안전법에 대한 이론적 배경을 기반으로, 각종 사진과 문서자료를 활용해 실제 검사에 대한 정보 전달



장점


규정과 규칙에 대한 정확한 정보를 습득할 수 있으며, 공간과 시간에 따른 제약이 적음.



단점


문서와 사진을 통한 교육으로 인해 선체의 구조 및 현장에 대한 직관적인 이해가 어려움.



현장 동행 교육



교육
방법


교육대상 검사원이 실선 환경에서 검사 장비를 육안으로 확인하며 검사 노하우를 전달하는 방법



장점



직접적인 노하우 전달이 가능하며 검사 대상의 각 부분을 육안으로 확인하므로 실효성이 높다.


단점



실제 선박을 탑승해야 하므로 검사 현장의 위험상황에 노출되며 시공간적인 제약이 존재한다.


검사훈련 형태별 장단점


2. 시스템 개발
2.1. 프레임워크 설계
시뮬레이터 구현을 위해 필요한 시스템은 훈련자가 사용할 소프트웨어(이후 사용자 소프트웨어)와 훈련 데이터를 입력할 수 있는 저작 소프트웨어(이후 저작 소프트웨어), 각 소프트웨어를 제어하는 제어 서버와 각종 교육 정보와 이미지 데이터를 저장하는 데이터베이스 서버이다. 그림은 각 시스템의 프레임워크 설계도이다.  사용자 소프트웨어는 PC 버전과 VR(Virtual Reality) 버전이 있어 사용자가 원하는 방식으로 소프트웨어를 구동할 수 있다. PC 버전의 경우 키보드와 마우스를 통해, VR 버전의 경우 HMD(Head Mounded Device)와 컨트롤러를 통해 프로그램의 제어와 데이터 입력이 가능하다.

제어 서버의 역할은 사용자 소프트웨어에서 기능을 호출하거나 데이터베이스와 상호작용하며 필요한 정보를 제공하는 것이다. 이를 위한 사용자 소프트웨어와의 양방향 통신을 구현하기 위해 Nodejs와 Socket.io를 사용했다. 

DB서버는 사용되는 데이터의 틀과 형식이 일정해 SQL DB를 사용했다. 사용자 소프트웨어 개발도구로는 개발자의 관점에서 VR 참고자료가 많고 다양한 패키지를 제공하는 유니티 엔진을 사용하여 시뮬레이터를 개발했다.



소프트웨어 프레임워크 설계



2.2 기능 요구사항

검사원 훈련 시뮬레이터로서의 역할을 수행하기 위해 시스템이 갖추어야 할 기능을 표 2와 같이 정리하였다. 공통기능과 사용자 소프트웨어, 저작 소프트웨어에서 필요한 기능을 분리하여 정의하였다.



구분




항목


기능 설명


공통기능


Admin



계정로그인선박 정보 관리







사용자 SW


Map



도면상의 전체 위치 정보 표시 및 선택 위치로 이동


Remark



검사 및 규정 자료 조회


Navigation



해당 경로로 이동


Video



안내 영상 시청







저작 SW


Image



선박의 이미지 정보 입력


Map



각 이미지 별 도면상의 위치 정보 입력


Remark



검사 및 규정 자료 입력

반복적인 정보 입력을 위한 템플릿 기능



Navigation



화살표를 입력한 후 연결되는 이미지 등록




기기 연동


VR interaction



HMD, 컨트롤러 지원


PC



Window OS 지원

VR 기능 요구사항 정의

공통기능으로는 프로그램의 사용 권한 및 선박의 정보를 계정별로 할당하여 관리하기 위한 로그인 기능과 계정 관리 기능이 있다. VR기기가 없는 사용자를 고려하여 VR기기 혹은 PC버전의 구동 방법을 제공해야 하며 통합적인 데이터 관리를 위한 데이터베이스 서버가 구축되어 있어야 한다.

저작 소프트웨어의 기능으로는 선박에서 촬영된 이미지를 DB서버에 저장하는 기능이 필요하다. 이후 이미지별 선박의 위치정보를 입력하여 사진을 분류하고 사용자가 이동할 수 있는 경로를 입력해야 한다. 마지막으로 사용자에게 제공되어야 하는 검사 및 규칙 정보에 대한 입력 및 업데이트가 가능해야 한다. 검사 대상에 데이터를 입력할 때 소화전과 같은 반복되는 검사 항목이 존재한다. 이때 반복적으로 사용이 가능한 템플릿 기능을 제공하여 검사원의 업무 효율을 높일 수 있다.

사용자 소프트웨어는 선임 검사원이 입력한 검사 정보를 확인하는 소프트웨어로 이동경로를 클릭하여 선내를 이동할 수 있다. 도면을 통해 사용자의 위치를 파악할 수 있어야 하며 이동할 수 있는 다른 위치의 정보 또한 확인할 수 있어야 한다.

2.3 360° 이미지 기반 가상현실 소프트웨어 개발

360° VR 영상이란 한 위치를 기준으로 카메라가 360°를 촬영한 영상 미디어이다. 360° 카메라는 다중 렌즈로 이루어져 있고 각 방향을 촬영한 영상을 합하는 스티칭(Stitching) 작업을 통해 360° 이미지를 합성한다. 이후 사진의 렌더링 최적화를 위해 스케일 작업과 선명도 작업과 같은 후처리 작업을 진행한다. 위와 같은 처리과정을 진행한 촬영 이미지는 그림 의 데이터 임포트 그룹과 같다.

360° 이미지를 통해 가상환경을 제작하는 방법은 저작 소프트웨어에 이미지를 입력한 후 유니티 프로그램상에서 구(Sphere)의 배경을 해당 이미지로 설정하는 것이다. 이를 통해 실선의 이미지를 활용해 가상현실 환경을 제작할 수 있다.

그림의 XR Platform을 구축하기 위하여 선박의 구성정보 및 메타 데이터가 쌓일 수 있는 DB 서버 환경을 개발한다. 데이터베이스 및 데이터 테이블을 설계한 후 제어서버와 연계하여 정보를 입출력할 수 있는 플랫폼의 형태를 구축한다.

플랫폼이 구축된 후 저작 소프트웨어의 경우 선임 검사원이 해당 위치에 대한 도면상의 위치 정보와 이미지 이동을 위한 내비게이션, 검사 대상에 대한 검사정보 데이터를 입력할 수 있는 GUI(Graphical user interface)를 개발한다. 해당 GUI를 사용해 데이터를 입력하고 저장할 수 있는 기능을 수행하여 프로그램의 컨텐츠를 구성할 수 있다.

사용자 소프트웨어는 사용자가 프로그램에 접속할 때 제어 서버를 통해 데이터베이스 서버에 저장된 정보와 이미지를 불러오는 기능을 개발했다. 이를 통해 하단의 UI를 통해 이동경로와 검사정보를 확인할 수 있으며 각 아이템을 클릭하여 해당 항목을 확인할 수 있다.


3. 개발 결과
개발된 프로그램은 PC 버전의 사용자 프로그램, 저작 프로그램, VR 버전의 사용자 프로그램과 저작 프로그램으로 제공된다. 

검사원은 저작 프로그램을 통해 이미지 파일과 선박의 구성 정보, 검사 정보를 입력할 수 있으며, 이미지의 추가 삭제, 제·개정되는 선급의 규칙을 직접 입력 및 수정할 수 있다.

그림의 (a)는 로그인 이후 선박 내 접속 위치를 선택하는 화면이다. 접속 위치를 선택한 후 입장하게 되면 그림의 (b)와 같은 가상환경을 확인할 수 있다. 사용자는 화살표를 클릭하여 해당 경로로 이동할 수 있으며, 검사 대상 장비를 클릭하여 그림의 (c)와 같은 선임 검사원이 입력한 정보를 확인할 수 있다. 하단의 Show Map 기능을 사용해 도면을 통해 해당 이미지의 위치를 확인하고 다른 위치로 이동하며 원하는 정보를 얻을 수 있다. 상기의 모든 기능을 PC와 VR기기 버전으로 지원하며 그림(d)는 HMD와 컨트롤러를 사용하여 작동하는 모습이다.


소프트웨어 개발 결과
4. 결과
360° 영상을 활용한 가상현실 기반의 검사원 훈련 시뮬레이터는 360° 이미지를 기반으로 구축된 가상환경을 제공하여 시점이 자유롭고 실제 선박의 촬영 이미지를 기반으로 제작되어 현장감 높은 경험을 할 수 있다. 본 소프트웨어는 사용자 소프트웨어와 저작 소프트웨어의 기능을 제공하여 지속적인 프로그램의 유지보수가 가능하며 데이터 조작이 편리하다. 또한 여러 선박에 대한 사진 및 검사 정보를 지속적으로 데이터베이스 서버에 축적할 수 있도록 관련 기능을 체계화 한 플랫폼 형태로 구축하였다.

본 소프트웨어는 현장 검사원들의 축적된 지식을 타 검사원에게 효율적으로 전파하여, 검사 역량을 향상시킬 수 있다는 점에서 의의가 있으며, 이를 위한 검사원의 최신 데이터 입력 지원이 수반되어야 그 역할을 수행 할 수 있다.

본 소프트웨어는 향후 선급 검사원뿐만 아니라 선사의 선원, 관련 대학교 학생들을 대상으로 선급이 제공하는 다양한 서비스와 연계하여 제공할 예정이다.