博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【c语言】使用gumbo解析HTML
阅读量:5074 次
发布时间:2019-06-12

本文共 4087 字,大约阅读时间需要 13 分钟。

之前使用过PHP的Simple HTML DOM简单地解析HTML但PHP终非我所熟悉的语言,虽然我并不对语言抱有绝对的执着= =(什么你不相信,好吧,不管你信不信,反正我是信了= =)。虽然可以简单地使用正则表达式来解析HTML但我不是希望能够找到一个合适的HTML解析库,网上搜索了下关于c语言解析HTML的库,好像不是挻多的样子,我搜索到了google的gumbo,gumbo是开源的,可以从这里得到它我们需要下载回来手动编译安装,这里以linux debian为例git clone cd gumbo-parser./autogen.sh./configure这些一般都会非常顺利,没什么好说的,接下来就是make我要执行make后发现有一个错误导致无法编译通过,不知道各位是什么情况,给出的错误提示是benchmarks/benchmark.cc文件中使用了未定义的函数clock_gettimeman了一下,该函数需要包含time.h头文件,打开benchmark.cc文件查看的确已经包含了time.h头文件,很苦恼,突然一下子就懵了,不过还好我反应还算快,看到manpages中写到Link with -lrt (only for glibc versions before 2.17).于是猜测没有链接库,使用vim打开Makefile文件,这个文件内容太多= =,要分析的话有些费劲,不过机智的我还是很快地通过benchmark关键字定位到了benchmark_LDADD这个变量,然后在后面加上-lrt注意有空格再次make,果然成功了。。。。。。。。。。。编译完成之后就可以使用make install进行安装了,你可能需要使用root用户权限,因为默认的安装目录在/usr/local/下gumbo的源码提供了几个示例程序,一个c语言写的获取标题的源码和另外三个使用c++编写的代码,我全都看了(你看,我说过我不是绝对的语言执着者吧,很不幸,这些程序我都看懂了= =)简单地说gumbo的使用很简单,使用gumbo_parse或者gumbo_parse_with_options就可以得到一个GumboOutput数据结构,我们就可以从该结构中寻找我们想要的东西了。我们先来看一个简单的例子,就拿获取title来说吧,我决定用自己写的解析代码而不是gumbo源码提供的好个示例,因为我发现该程序无法解析出我使用的示例HTML文本文件= =,所以我就自己写个吧。。。。。。#include 
#include
#include
#include
#include
/* 包含头文件 */#include
void get_title(GumboNode *node){ GumboVector *children; int i; /* 如果当前节点不是一个元素的话直接返回 */ if(node->type != GUMBO_NODE_ELEMENT) return; /* 获取该节点的所有子元素节点 */ children=&node->v.element.children; /* 检查当前节点的标签是否为TITLE(title) * 如果是则输出该节点下第一个节点的文本内容 */ if(node->v.element.tag == GUMBO_TAG_TITLE) printf("%s\n",((GumboNode *)children->data[0])->v.text.text); /* 递归该节点下的所有子节点 */ for(i=0;i < children->length;++i) get_title(children->data[i]);} int main(int argc,char **argv){ struct stat buf; GumboOutput *output; FILE *fp; char *data; /* 读取HTML文本文件 */ if(!(fp=fopen(argv[1],"rb"))) return -1; stat(argv[1],&buf); data=malloc(sizeof(char)*(buf.st_size+1)); fread(data,sizeof(char),buf.st_size,fp); fclose(fp); data[buf.st_size]=0; /* 解析HTML文本文件 */ output=gumbo_parse(data); /* 获取TITLE */ get_title(output->root); /* 销毁,释放内存 */ gumbo_destroy_output(&kGumboDefaultOptions,output); free(data); return 0;}注释已经写的很清楚了,首先我们的节奏是这个样子的:第一步加载HTML文本文件,我们把它读到一个buf中,第二步我们进行解析出GumboOutput数据结构第三步在GumboOptout这个数据结构中找出title标签最后我们输出内容,gumbo的步骤基本上就是这个样子的了,使用gcc编译的时候需要加上-lgumbo下面再说一个例子,该例子中的HTML文件内容是各国DNS的IP地址以及物理地址,大概的格式是
开始ip地址
结束ip地址
物理地址
我们的解析步骤是获取所有dt标签再获取所有dd标签,然后分别输出dd标签中class属性为ipstart、ipend、address的内 容,下面放代码,由于原HTML文本文件内容放多,我不便放上来,这里就使用在线抓取的方式获取HTML文本,所以这里给出的是HTML文本的url地 址,至目前写代码这一刻该程序还是完全能够正常工作的,日后会该网页是否会因该网页做调整等原因解析出错就不得而知了。#include
#include
#include
#include
/* 包含头文件 */#include
#define URL "http://ip.yqie.com/dns_usa.htm" void print_dns(GumboNode *node,GumboAttribute *attr){ /* 获取子节点 */ GumboNode *ip=(GumboNode *)(&node->v.element.children)->data[0]; /* 根据class属性的值打印结果 */ if(strcmp(attr->value,"ipstart") == 0) { if(ip->type == GUMBO_NODE_TEXT) printf("开始IP:%s ",ip->v.text.text); } else if(strcmp(attr->value,"ipend") == 0) { if(ip->type == GUMBO_NODE_TEXT) printf("结束IP:%s ",ip->v.text.text); } else if(strcmp(attr->value,"address") == 0) { if(ip->type == GUMBO_NODE_TEXT) printf("物理地址:%s\n",ip->v.text.text); }} void get_dns(GumboNode *node,GumboTag tag){ GumboVector *children; GumboAttribute *attr; int i; if(node->type != GUMBO_NODE_ELEMENT) return; /* 获取当前节点class属性 */ if(attr=gumbo_get_attribute(&node->v.element.attributes,"class")) print_dns(node,attr); /* 当前节点子节点 */ children=&node->v.element.children; /* 如果当前节点标签为td我们就查找dd标签 */ if(node->v.element.tag == GUMBO_TAG_DT) for(i=0;i < children->length;++i) get_dns(children->data[i],GUMBO_TAG_DD); /* 查找所有
标签 */ for(i=0;i < children->length;++i) get_dns(children->data[i],GUMBO_TAG_DT);} int main(void){ GumboOutput *output; char *buf; /* 下载HTML文本文件 */ buf=oauth_http_get(URL,NULL); if(!buf) return-1; /* 解析 */ output=gumbo_parse(buf); if(!output) { free(buf); return -1; } /* 获取我们想要的内容
*/ get_dns(output->root,GUMBO_TAG_DT); /* 释放资源 */ gumbo_destroy_output(&kGumboDefaultOptions,output); free(buf); return 0;}由于使用了oauth所以使用gcc编译时需要加上-loauth参数

 

转载于:https://www.cnblogs.com/fnlingnzb-learner/p/5835415.html

你可能感兴趣的文章
如何知道linux的系统是CentOS,还是Ubuntu?
查看>>
Spring WebSocket Support官方文档+翻译
查看>>
STM32之USB电路(摘要笔记)
查看>>
PS4 的下载速度问题
查看>>
三、node编程
查看>>
POJ 3087 Shuffle'm Up(模拟题)
查看>>
cf 1141/problem/F2 Same Sum Blocks (Hard)
查看>>
IO:RandomAccessFile类
查看>>
sqlite 若表不存在则创建表
查看>>
数据库MySQL(课下作业,必做) 20175225
查看>>
onload事件与ready事件的区别,原生js与jquery的区别
查看>>
ACM学习网站、
查看>>
Hdu 1157 Who's in the Middle
查看>>
特征选择和降维的关系
查看>>
JavaWEB开发框架:Shiro
查看>>
防止页面后退(使浏览器后退按钮失效)
查看>>
一致性算法Raft详解
查看>>
微信公众平台开发(62)股票行情及分析
查看>>
Noip2014 飞扬的小鸟
查看>>
while
查看>>