请教寻找边界问题的程序

有一道实践题目其中一部分是从一组二维坐标点中找出能包含其它所有点的边界点。如图。
要求用(XA-X)(YB-YA)-(YA-Y)(XB-XA) 判断其它任何一点(X,Y) 在AB两点连线的左边(结果为负) 或是右边(结果为正)
若其它点都在AB连线一边，即同号，则AB就是其中的一个边界。

多谢各位高手了。。。