목록Study/Elasticsearch (34)
써먹는 웹개발
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/WGSte/btq7ooByV1s/XFbczkpbJ5OD8RUhLeFm7K/img.png)
아마존 엘라스틱서치에서 Restful 호출하는 2가지 방법입니다. ※ 아마존 정책상 전체 공개가 되지 않습니다. 1. 외부ip 허용하는 방법 1) 외부ip 확인방법 주소 : https://www.findip.kr/ 아이피 확인 - my ip address IP 주소를 확인하는 가장 쉽고 빠른 방법 이 사이트(findip.kr)에 접속하는 것이 IP주소를 확인하는 가장 쉽고 빠른 방법이다. 121.53.180.250 가 현재 접속한 기기의 공인 IP(Internet Protocol) 주소다 IP주소 www.findip.kr 2) 아마존 엘라스틱서치의 해당 도메인에서 엑세스 정책 수정 - "aws:SourceIp"에 외부ip를 추가하시면 조회됩니다. 결과 2. 서브 계정을 만들어 key값으로 호출하는 방법 ..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/cBOO20/btq8VFTYQqs/AcKNWmT8HmkPceLbtLJfa1/img.png)
※ 기존에 스냅샷으로 해보다가 index 상태가 red가 되어 실패한적이 있으니 스냅샷으로 처리하는 방법을 아시는 분은 댓글에 달아주시면 감사하겠습니다. 답) red가 되었을때 아래 글인 reindex로 처리하면 해결됩니다. 스냅샷 반영전 엄청나게 중요한 것 1. 엘라스틱서치 plugin > s3 snapshot을 설치하고 올려야된다. 경로 elasticsearch\bin 명령어 : elaticsearch-plugin install repository-s3 2. store.size 기준으로 파악해서 용량 만들어 둘 것 ex) store.size가 25로 3개면 여유 용량 최소 75gb로 생성 Data Migration 방법 중에 내가 썼던 방법은 kibana에서 쓴 reindex(재색인)인데 방법은 1번..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/bJ8ZPs/btq7gYbkCfI/4CD1I58c7vIFk4gLn6D3j0/img.png)
※ 'parsed [1] roles from file' 이라는 에러가 나기도 함 키바나 실행이 안되는 현상에 대해 내가 해결한 해결방법 - 파일위치 : config\kibana.yml - 수정내용 : server.host: "0.0.0.0" 으로 변경 ※ host를 "0.0.0.0"으로 하면 외부접속이 허용됩니다.
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/bAa72i/btq6z5vu5PH/DBPboSQKvm2z23CnuhVYTk/img.png)
※ 단계가 너무 많아서 중간은 생략하겠습니다. 전체 플로우 참고 : https://docs.aws.amazon.com/ko_kr/elasticsearch-service/latest/developerguide/migration.html 0. snapshot 생성 ※ 이전에 plugin에 repository-s3 설치필요 1) 파일 생성시킬 폴더 셋팅 PUT _snapshot/snapshots { "type": "fs", "settings": { "location": "/backup", "compress": true } } 2) 파일생성 - repository명/snapshot명까지 반드시 입력해줘야 s3와 amazon elasticsearch 연동시 스냅샷 정보를 못 찾는 현상이 발생하지 않음 ※ 로컬 키..
aws s3 엔드포인트를 처음 접한 사람은 host를 어떻게 주어야될지 모를텐데 다음과 같이 주면 된다. aws s3 엔드포인트 : 'http://'+아마존 s3 버킷명+'.s3.amazonaws.com' ex) http://test-bucket.s3.amazonaws.com
amazon elasticsearch 설치방법 - https://happiestmemories.tistory.com/45 주의사항 - 보통의 설정은 기본적으로 체크가 되어있는데 2가지 정도는 변경해야된다. 1) 인스턴스 유형 : t2.small.elasticsearch 2) 허용 ip : 자기가 접속하는 pc에 ip는 전부다 넣어야됨
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/CArLv/btrkBEpQUST/T3duhf30MAch796gHhfKx0/img.png)
Elasticsearch 관련하여 데이터를 추가하는 4가지 방법에 대해 써보려고 한다. ※ 추가적인 방법이나 각각의 장단점을 알고계신 분이 있다면 댓글 부탁드립니다. 0. 인덱스 추가 (인덱스라 인덱스명을 i_로 시작하게 지음) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 PUT i_exam { "mappings": { "_doc": { "properties": { "SEQ_NUM": { "type": "integer" }, "EXAM_ID": { "type": "text" } } } }, "settings": { "number_of_shards" : 3, "number_of_replicas" : 2 } } cs 1. post 1 2 3 4 5 PUT cafe/c..
bulk 1. 정의 : 다수의 문서를 추가/수정/삭제하는 api 2. 왜 쓰는가? 색인의 경우 한 번에 처리함으로써 색인 속도를 크게 향상시킬 수 있다. 3. 사용방법 ※ 다음 명령어는 Windows - kibana 환경에서 테스트하였습니다. 소스 출처 : https://github.com/minsuk-heo/BigData/blob/master/ch02/classes.json 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 POST _bulk { "index" : { "_index" : "classes", "..