一、原由
网上搜索了一下，有一些使用selenium实现滑动图片的代码，但是多是需要获取完整图的。现在很多滑动图片验证码没有完整图，这里记录一下我实现的。
二、整理思路
1、获取背景图(bgImg)、获取验证图(vrImg)
2、对背景图与验证图做二值化处理（PS：这里二值化的阈值需要调整，不然可能获取不到想要的效果）
3、比较背景图与验证码图相似的地方（二值化之后背景图就会有跟验证图一样的图形），校验白边缘——一个节点的四周节点相同，则相似度加一，获取相似度最大的x轴数据，及是我们需要知道的拖动距离
4、使用selenium实现拖动
三、代码实现
1、获取图片以及下载图片（下载使用httpClient实现）
使用webDriver.findElement()方法获取图片以及图片地址
2、图片二值化代码
/**
* 对图片进行二值化
* @author <a href='mailto:zhouchao@zhexinit.com' >周超</a>
* @param 原图
* @param 二值化之后存储的文件
* @param 是否为背景图(背景图与验证图处理方式不同)
* @throws IOException
*/
public void binaryImage(File imageFile,File descFile,boolean bgImage) throws IOException{
String fileName=imageFile.getName();
String fileType=imageFile.getName().substring(fileName.lastIndexOf('.') 1);
BufferedImage image = ImageIO.read(imageFile);
int width = image.getWidth();
int height = image.getHeight();
BufferedImage binaryImage = new BufferedImage(width, height, BufferedImage.TYPE_BYTE_BINARY);
for(int i= 0 ; i < width ; i ){
for(int j = 0 ; j < height; j ){
int rgb=image.getRGB(i, j);
if(bgImage) {
rgb=getBgImageRgb(rgb);
}else {
rgb = getImageRgb(rgb);
}
binaryImage.setRGB(i, j, rgb);
}
}
ImageIO.write(binaryImage, fileType, descFile);
}
/**
* 如果使用该方法二值化不行，需要调整参数r>200&g>200&b>200的参数
* @author <a href='mailto:zhouchao@zhexinit.com' >周超</a>
* @param i
* @return
*/
private static int getImageRgb(int i) {
String data=Integer.toHexString(i) '';
if(data.length()==6) {
return 0x00;
}
int rgb =i& 0xFFFFFF;
int r=(rgb& 0xff0000) >> 16;
int g=(rgb& 0xff00) >> 8;
int b=(rgb& 0xff);
if(r>200&g>200&b>200) {
return 0xFFFFFF;
}
return 0x00;
}
/**
* 如果使用该方法二值化不行，需要调整参数avg>120&avg<160的参数
* @author <a href='mailto:zhouchao@zhexinit.com' >周超</a>
* @param i
* @return
*/
private static int getBgImageRgb(int i) {
int rgb =i& 0xFFFFFF;
int r=(rgb& 0xff0000) >> 16;
int g=(rgb& 0xff00) >> 8;
int b=(rgb& 0xff);
int avg=(r g b)/3;
if(avg>120&avg<160) {
return 0xFFFFFF;
}
return 0x00;
}
注意：getImageRgb()与getBgImageRgb（）可能需要根据图片的不同做一些范围调整。
二值化的效果如下：
原图
二值化之后：
这样二值化之后的图，我们就可以将问题变为在一张图片中查下另一张图的位置了
3、比较图获取位置
/**
*
* 搜索图片位子
* @param 二值化之后的背景图
* @param 二值化之后的校验图
* @return
* @throws IOException
*/
public int searchLocation(File bgImgBinaryFile,File verifyBinaryImgFile) throws IOException {
BufferedImage bgImg = ImageIO.read(bgImgBinaryFile);
BufferedImage vrImg = ImageIO.read(verifyBinaryImgFile);
int[][] bgRgb=getImageGRB(bgImg);
int[][] vrRgb=getImageGRB(vrImg);
return searchImage(bgRgb,vrRgb);
}
/**
* 这里非黑即白 值为0或1,1表示白色,0表示黑色
* @param bfImage
* @return
*/
public static int[][] getImageGRB(BufferedImage bfImage) {
int width = bfImage.getWidth();
int height = bfImage.getHeight();
int[][] result = new int[height][width];//这里就是y,x才跟图一样
for (int h = 0; h < height; h ) {
for (int w = 0; w <width ; w ) {
result[h][w] = getZeroOrOne(bfImage.getRGB(w, h));
System.out.print(result[h][w] ' ');
}
System.out.println();
}
System.out.println('===================================');
return result;
}
/**
* 将图片像素变成0或1，阈值可以根据实际情况调整
* @param bfImage
* @return
*/
private static int getZeroOrOne(int i) {
int rgb =i& 0xFFFFFF;
int r=(rgb& 0xff0000) >> 16;
int g=(rgb& 0xff00) >> 8;
int b=(rgb& 0xff);
if(r>210&g>210&b>210) {
return 1;
}
return 0x00;
}
/**
* 遍历图片，进行比较,得出相似度最高的位置
这里是一个像素一个像素去比较的,具体比较方法为compare(y,x,bgRgb,vrRgb)
* @param bfImage
* @return
*/
private static int searchImage(int[][] bgRgb,int[][] vrRgb) {
int bgY=bgRgb.length;
int bgX=bgRgb[0].length;
int vrY=vrRgb.length;
int vrX=vrRgb[0].length;
int xLocation=0;
int yLocation=0;
int maxCount=0;
for(int y=1;y<bgY-vrY-1;y ) {
for(int x=1;x<bgX-vrX-1;x ) {
int count=compare(y,x,bgRgb,vrRgb);
if(count>maxCount) {
maxCount=count;
yLocation=y;
xLocation=x;
}
}
}
LOGGER.info('最佳位置为({},{}),相同数比例为={}',new Object[] {xLocation,yLocation,maxCount});
return xLocation;
}
/**
* 针对背景图中的像素位置(Y,X),那验证图与原图做比较
1、比较边框，及比较验证图中值为1的点
2、争夺当前验证图中1的点，比较它四周的节点，是否相同，相同就相似度加一
PS:其实就是比较框框
* @param bfImage
* @return
*/
private static int compare(int bgY,int bgX,int[][] bgRgb,int[][] vrRgb) {
int count=0;
int vrY=vrRgb.length;
int vrX=vrRgb[0].length;
//遍历小图节点
for(int y=0;y<vrY;y ) {
for(int x=0;x<vrX;x ) {
//只对1做比较
if(vrRgb[y][x]!=1){
continue;
}
boolean isRight=true;
//比较当前点四周的节点是否相同
for(int i=-1;i<2;i ) {
for(int j=-1;j<2;j ) {
int tempX=x i;
int tempY=y j;
int tempBgY=y bgY j;
int tempBgX=x bgX i;
if(tempY<0||tempX<0||tempY>vrY-1||tempX>vrX-1) {
continue;
}
if(tempBgY<0||tempBgX<0||tempBgY>bgRgb.length-1||tempBgX>bgRgb[0].length-1) {
continue;
}
if(vrRgb[tempY][tempX]!=bgRgb[tempBgY][tempBgX]) {
isRight=false;
}
}
}
if(isRight) {
count ;
}
}
}
return count;
}
其中getImageGRB(）方法打印的效果图类似这样：(下面是部分截图)
4、进行滑动
/**
*
* moveButton:拖动按钮
* @param webDriver
* @param buttonElement 按钮
* @param location 拖动距离
* @param stepBean
* @throws InterruptedException
*/
public void moveButton(WebDriver webDriver,WebElement buttonElement,int location) throws InterruptedException {
int defaultStep=RandomUtils.getRandomNum(20) 20;
int distance=location;
//生成随机轨迹模型
List<Integer> stepNumList=new ArrayList<>();
getRandomDistribution(distance,defaultStep,stepNumList);
//点击数据并按住
Actions action = new Actions(webDriver);
action.clickAndHold(buttonElement);
for(Integer num:stepNumList) {
//拖动按钮
action.moveByOffset(num,0);
action.perform();
}
//释放按钮
action.release(buttonElement).perform();
}
/**
*
* 随机轨迹模型
* @param webDriver
* @param distance 拖动距离
* @param defaultStep 进行拖动的次数
* @param dataList 轨迹模型
* @throws InterruptedException
*/
private static void getRandomDistribution(int distance,int defaultStep,List<Integer> dataList) {
if (defaultStep == 1) {
dataList.add(distance);
return;
}
int item = distance / defaultStep;
item=item RandomUtils.getRandomIntNum(-item * 2, item * 3);
dataList.add(item);
getRandomDistribution(distance - item, defaultStep - 1,dataList);
}
四、总结
要实现滑动图片验证，关键还是识别需要滑动的位置。通过二值化可以实现，这里的二值化，需要根据滑动的图片在设置二值化的阈值。一般滑动图片都有明显的特征的，调整阈值就可以实现。本文仅用于技术学习参考
