知识屋:更实用的电脑技术知识网站
所在位置:首页 > 编程技术 > PHP编程

php简单去除大型文本重复

发布时间:2014-09-05 11:12:52作者:知识屋

<?php
error_reporting(0);
@ini_set('memory_limit','-1');
set_time_limit(0);
echo" 去除文本重复工具"."/r/n/r/n";
echo"/n"."输入要整理的文件:"."/n";
$dic=trim(fgets(STDIN));
/*while (!feof($dic)){
        $file[]=stream_get_line($fp,65535,"/r/n");
}
 */
 
$file=file($dic);
$array=preg_replace('/($/s*$)|(^/s*^)/m','',$file); //消除空行
$new_array=array_values(array_unique($array));//消除重复行
$new_filename="new_". basename($dic);
 
if(file_put_contents("$new_filename",join("/r/n",$new_array))){
 
        $num=count($file);
        $new_num=count($new_array);
        $counts=$num-$new_num;
        $files=dirname(__FILE__).DIRECTORY_SEPARATOR.$new_filename;
 
echo<<<INFO
 +----------------------------------------------+
 | [+] 去除重复完毕!   www.zhishiwu.com            |
 | [+] 整理后的文件为:$files     |
 | [+] 原始字典数量:$num 行                     |
 | [+] 整理后为:$new_num 行                         |
 | [+] 共替换了$counts 行                           |
 +----------------------------------------------+
INFO;
 
}
 
else{ 
        echo"------------------------------------------"."/r/n";
        echo"[*] 错误!"."/r/n/r/n";
        echo"[*] 找不到文件!请检查输入路径是否存在!"."/r/n";
        echo"------------------------------------------"."/r/n";
exit();
}
 
 
?>
(免责声明:文章内容如涉及作品内容、版权和其它问题,请及时与我们联系,我们将在第一时间删除内容,文章内容仅供参考)
收藏
  • 人气文章
  • 最新文章
  • 下载排行榜
  • 热门排行榜