A는 디스크 공간을 늘리 HDFS에서 파일을 서버 B에 파일 서버를 탑재하고 철저하게 삭제됩니다

하드 장착 : A는 서버 B에 파일 서버를 마운트

장면 : 또한 포스트 다중화를 방지하기 위해, 데이터 백업 처리를 삭제하는 동안 데이터의 HDFS 과도한 양 가능한 디스크 공간의 결과는, 공간을 만들기 위해 오래된 데이터를 삭제해야

 

당신이 파일을 삭제할 HDFS 디렉토리 : 빈은 / *는 DFS가 / IBC / 데이터 로그 / apachelogs / 보관 / 201,801분의 2,018을 -ls HDFS

삭제 된 파일이 디렉토리에 백업 마운트해야합니다 / 홈 / BigData을 / mnt / 백업

설명 :

/ IBC / 데이터 로그 / apachelogs / 보관 / 201,801분의 2,018 *  --- 이 디렉토리는 파일 디렉토리 HDFS 삭제하는 것입니다

/ 홈 / BigData을 / mnt / 백업    - 파일을 마운트 된 디렉토리

(1) 먼저 bigdata 한 사용자, 디렉토리 MNT / 백업을 생성 -은 / 가정 / bigdata을 / mnt / 백업입니다

2 . CD / 홈 / bigdata을 / mnt / 후 루트로 전환 백업 마운트 10.10.3.201:/vol/bd_backup을 입력 디렉토리.

설명 :

10.10.3.201:/vol/bd_backup는 - B는 서버 주소 디렉토리에 장착 된 서버의 주소 디렉토리입니다

3 . 완성을 설치 한 후, 명령 입력 안양 -h를

마운트가 성공 여부를 확인하려면뿐만 아니라 실시간, 디스크 사용, 나머지 금액 마운트보기로

 

 

 

4 . 루트 사용자의 사용은 마운트이 경우에 따라서 디렉토리 / 홈 / bigdata을 / mnt / 백업 일반 사용자 및 사용자 그룹의 루트 디렉터리 MNT 아무도의 다음 사용자 또는 그룹 권한 반면, 이 시간에 777을 부여하는 것은 여전히 백업 디렉토리 권한 루트

 

 

 

5 . Bigdata 다음 사용자에게 다시 전환 디렉터리 HDFS 전환 명령을 실행

 빈 / HDFS DFS -get / IBC / 데이터 로그 / apachelogs / 아카이브 / 201,801분의 2,018 * / 홈 / bigdata을 / mnt / 백업

이 때, 콘솔이 "hdfs.DFSClient을 WARN : DFSInputStream가 이미 닫혔습니다"인쇄됩니다, 시작 백업을 마운트 설명

 

 

 

6 .이 경우 / 백업 디렉토리 아래에 / 홈 / bigdata을 / mnt로 전환, 당신은 HDFS를 오는 데이터가로드 된 볼 수 있습니다

 

 

 

 

7 . 당신이 B를 다시 시작하도록 서버를 구성한 후, 데이터가 어디에서 쓰기 마운트 경로입니다, 손실되지 않습니다 마운트, 다시 시작한 후 자동로드

 

 

 

8. 우리 작업의 목적은 마운트, 파일이 HDFS 6 월 로그 데이터 월 2018 만료, 서버의 파일을 만료 된 청소 삭제 명령을 사용할 필요가 실행하는 것이기 때문에 :

 [bigdata] : 빈 / HDFS DFS -rm -r / IBC / 데이터 로그 / apachelogs / 아카이브 / 201,801분의 2,018 *

 [bigdata] : 빈 / HDFS DFS -rm -r / IBC / 데이터 로그 / apachelogs / 아카이브 / 201,802분의 2,018 *

 [bigdata] : 빈 / HDFS DFS -rm -r / IBC / 데이터 로그 / apachelogs / 아카이브 / 201,803분의 2,018 *

 [bigdata] : 빈 / HDFS DFS -rm -r / IBC / 데이터 로그 / apachelogs / 아카이브 / 201,804분의 2,018 *

 [bigdata] : 빈 / HDFS DFS -rm -r / IBC / 데이터 로그 / apachelogs / 아카이브 / 201,805분의 2,018 *

제거가 완료되면 9. 당신은 페이지의 노드에 대한 정보를 볼 갈 수있는, 파일이 성공적으로 디스크에서 삭제되었는지 여부를 확인 클러스터에있는 디스크 공간이 증가하지 않은 사실, 우리는 파일이 여전히 디스크에 존재하지만, 데이터 복구가 삭제 역

 

 

 

 

 

휴지통 파일에 10.이 완전히 휴지통에서 삭제 삭제 된 찾을

 빈 / HDFS DFS -ls /user/bigdata/.Trash/191025092901/ibc/datalogs/apachelogs/archive

11 번 체크 디스크 공간 증가와 약 90g의 양의 증가에 사용할 수있는 각 클러스터 서버 디스크 공간을 찾았지만,이 시간에 사용할 수있는이 서버에만 11.2G가로드 밸런싱 작업에 대해 할 필요가 10.10.4.3 발견

 

 

 

 

12.hdfs 부하 분산 명령을 실행 sbin에 / start-balancer.sh -threshold 5

- '5'는 본원에서 5 %의 임계 값을 나타내고, 각각의 시스템의 디스크의 양이 5 % 차이 내에있을 수 있다는 것을 의미 

 

 

볼이 재확인 실행 한 후에 13. 우리는 원래 단지 11 세대 서버 공간이 지금 사용할 수있는 70 개 이상의 G를 가지고 발견

 

추천

출처www.cnblogs.com/jasontsui71/p/11750934.html