SSH Key를 이용하여 로컬(VScode)에서 원격으로 GCP 프로젝트에 접속하기
·
Google Cloud Platform
SSH Key 생성하기 puTTYgen 열기 Generate 버튼을 클릭 Type of key를 RSA로 선탣하고, Key connection에 구글 아이디 입력, passphrase도 입력 Conversions > Export OpenSSH Key > 파일이름 openssh로 바탕화면에 저장 Public key, Private key 저장 Public key 이름 : id_rsa.pub / Private key 이름 : id_rsa 키 복사 Compute Engine > 메타데이터 > SSH 키에 복사한 key 추가 VSCode 연동 vscode에서 Remote-SSH 설치 순서대로 클릭 config파일이 열리면 이렇게 수정 HostName에는 외부IP (참고로 외부IP는 GCP>ComputeEngin..
Local환경 GCE 연동
·
Google Cloud Platform
키 파일 다운까지 완료한 상태에서 진행 BigQuery Local 환경 연동 인증키 생성 - API 및 서비스 > BigQuery - 사용자 인증정보 만들기 - 애플리케이션 데이터 선택 > 다음 > 서비스 아이디 입력 > 만들고 계속하기 > 역할 소유자로 선택 > 완료 - IAM 및 관리자 > 서비스계 didikimd.tistory.com conda 가상환경 생성 - conda 가상환경 라이브러리 관리는 environment.yml 파일로 함 environment.yml name에는 가상환경 이름, conda로 설치할 라이브러리는 dependencies, conda로 설치 안되는 라이브러리는 pip으로 설정 name: condagcp2 channels: - defaults dependencies: - p..
BigQuery Local 환경 연동
·
Google Cloud Platform
인증키 생성 - API 및 서비스 > BigQuery - 사용자 인증정보 만들기 - 애플리케이션 데이터 선택 > 다음 > 서비스 아이디 입력 > 만들고 계속하기 > 역할 소유자로 선택 > 완료 - IAM 및 관리자 > 서비스계정 > 만든 서비스 계정이 보임 - 작업 > 키관리 > 키추가 > 새키만들기 > JSON > 자동으로 JASON파일이 다운로드 됨 인증키 숨기기 - vscode에서 .streamlit폴더 생성 후, 폴더 안에 다운받은 jason 키 파일 이동 - .streamlit/secrets.toml 파일 생성 후, 아래와 같이 설정 gcp_service_account 아래 내용은 api key를 json 파일로 열면 확인할 수 있다. # .streamlit/secrets.toml [public..
BigQuery 구글코랩 연동
·
Google Cloud Platform
1. 데이터 세트 만들기 - 메뉴 > BigQuery - 프로젝트 이름 옆에 있는 버튼 클릭 > 데이터 세트 만들기 - 데이터 세트 이름 설정 후 데이터 세트 만들기 원래 리전도 선택해야하지만, 지금은 우선 기본값으로 둠 - kaggle이라는 데이터 세트 생성 완료 2. 데이터 세트 안에 테이블 만들기 - Kaggle 옆 점 클릭 > 테이블 만들기 - 여기서는 테이블소스 업로드 방식으로 생성 - 파일 업로드 후, 테이블 이름 설정, 스키마 자동감지 설정 후 테이블 만들기 파티션은 원래 나누는걸 설정하는게 맞지만, 사이트 운영을 할 것이 아니기 때문에 그냥 두고 생성 3. 구글코랩에서 BigQuery와 연동 from google.colab import auth auth.authenticate_user() ..
github Actions
·
Google Cloud Platform
GitHub Actions? GitHub Actions은 GitHub에서 호스팅되는 자동화 및 워크플로우 도구 이를 사용하여 소프트웨어 개발 및 배포 과정을 자동화하고 사용자 지정할 수 있다. 지속적 통합 (CI): 코드가 커밋될 때마다 빌드, 테스트 및 검증을 자동으로 실행하여 코드의 품질을 보장 지속적 배포 (CD): 코드가 통합 및 테스트를 통과하면 자동으로 배포를 시작하여 실제 환경으로 적용 자동화된 워크플로우: GitHub Actions을 사용하여 코드 저장소에서 발생하는 이벤트에 대한 자동화된 작업 흐름을 정의할 수 있다. 예를 들어, 코드를 푸시할 때마다 빌드 및 테스트를 실행하거나, 새로운 이슈가 열릴 때마다 알림을 보내는 등의 작업을 설정할 수 있다. 커뮤니티 액션: GitHub Acti..
GCE + Git + Github 연동
·
Google Cloud Platform
SSH keys 연동 - SSH 브라우저 창에서 아래 코드 입력 ssh-keygen -t rsa -b 4096 -C "your_github_email.com" - 아래 코드 입력 후 ssh-rsa 부분 복사 cat .ssh/id_rsa.pub - Github > 본인 프로필 > settings > SSH and GPG keys > New SSH keys Title 설정해주고, key 부분에 복사한 key 부분 붙여넣어주기 - SSH keys가 생성된 것을 확인할 수 있다. - Compute Engine > 메타데이터 > SSH키 추가 Git 설치 - git은 이미 있지만 설치해준다. - 아래 코드를 하나씩 실행 후, version 확인 sudo apt-get update -y sudo apt-get up..
GCE Streamlit 설치
·
Google Cloud Platform
외부 IP 주소 고정 VPC 네트워크 >IP주소 유형 부분에 임시를 고정으로 변경 - 이름을 설정해주고나면 유형 부분에 임시였던 것이 고정으로 바뀐다. SSH 브라우저 열기 streamlit 설치 pip install streamlit - streamlit demo 페이지가 잘 열리는지 확인 streamlit hello
GCP에서 spark 설치하기
·
Google Cloud Platform
프로젝트 생성 - GCP 사이트에서 우측 상단에 있는 콘솔 클릭 후 새 프로젝트를 생성 VM 생성 - 메뉴 > Compute Engine > VM인스턴스 - 사용 누르기 - 인스턴스 만들기 클릭 이름은 test , 리전은 서울로 설정 머신 유형은 사전설정 > 표준 > 메모리 8GB로 설정 - 부팅 디스크는 Ubuntu로 설정 - 방화벽은 트래픽 허용 - 만들기 클릭 네트워크 보안 방화벽을 열어줘야 배포가 됨 - 네트워크 세부정보 보기 > 방화 (or 메뉴에서 VPC 네트워크 > 방화벽) - 상단 방화벽 규칙 만들기 > 설정 다 하고 만들기 클릭 - 만들기 클릭하면 아래와 같이 방화벽이 새로 만들어 진 것을 확인할 수 있다. 개발환경 설정 - Compute Engine > VM 인스턴스에서 SSH 브라우저..