dwflpp.cxx: use lower_bound() instead of manual binary search

This is a follow-up to commit 1d50099. We previously implemented our own
binary search to find the line record associated with the function's
entrypc. To be on the safe side, we instead rely on lower_bound() for
binary searching, which will pick the first element in a range of equal
addresses, thus avoiding issues such as BZ1099133.

Add ia64-specific syscall tapset fix.

* tapset/linux/nd_syscalls2.stp: Remove extra _ia64_pipe[01] functions,
  just use the functions in syscalls2.stp.

Update syscall tapset for rawhide (3.15.0-0.rc5.git3.1.fc21.x86_64).

* tapset/linux/syscalls.stp (syscall.ioctl): Update for rawhide.
* tapset/linux/syscalls2.stp (syscall.compat_utime): Ditto.

BZ1099133: prologue searching: check previous line too

We perform binary search to retrieve the line record matching the
entrypc. However, we may by chance fall on the second of two line
records for the same entrypc. Check for this after binary search is
done.

BZ1099825: probe_by_pid.exp: small tweak in C program

Since PR6941 (commit 277a2b9), prologue-searching is skipped for
optimized code. However, we do not skip it for GCC < 4.5, which may
provide bad location info (see GDB's PR13777).

On RHEL6, this testcase was failing because prologue-searching was not
skipped, and fell inside the loop in main(). To allow for a safe landing
zone, we slightly tweak the C program so that there is a safe
instruction to land on post-prologue that is not in the loop.

Relax static-probes.d input file syntax.

* dtrace.in (dtrace_bnf): Allow probe_ident to start with any alphanumeric.
  Make trailing probe declaration ';' optional.
  (_PypProvider::probe_write): Improve error messages.

Don't give predefined types special treatment.

* dtrace.in (dtrace_bnf):  Remove type_spec.  Handle all types as type_name.

Fixed BZ1100813 by fixing build errors in nfsd.stp.

* tapset/linux/nfsd.stp (__rqstp_uid): Fix pointer casting, needed by
  32-bit platforms.
  (__rqstp_gid): Ditto.

PR16991: tweak output for UNKNOWN root dentry; add hex address

Fixed PR16991 by avoiding an inifinte loop in task_dentry_path().

* tapset/linux/dentry.stp (task_dentry_path): Return "UNKNOWN" for
  unmounted synthetic filesystems.
* testsuite/systemtap.base/task_dentry_path.exp: New file.
* testsuite/systemtap.base/task_dentry_path.sh: Ditto.
* testsuite/systemtap.base/task_dentry_path.stp: Ditto.

BZ1099472: cast-scope.exp: adjust relative lineno

BZ1099757: vars.exp: fix and strengthen

Since PR16615 (merge commit 4636ca3), linenos in statement probes have
become more precise and stringent. As a result, vars.exp was failing
because it was trying to probe a statement at a lineno with no line
records.

We fix this by first retrieving the first valid lineno using stap -l.
The test has also been refactored in general to be more robust. We can
now more easily add more functions to test (e.g. we now test both
bio_copy_user() and vfs_read()).

man/stapprobes.3stap: clarify relative linenos

Since PR16615 (merge commit 4636ca3), relative line numbers are relative
to the decl_line of the function. Adjust man page to reflect this.

tapsets.cxx (trivial): clear up comment

We used to support both kernel mode and user mode before, but no more.
Update comment to not cause confusion.

dwflpp (trivial): fix missing _F()

NEWS: add blurb about PR16941

Merge branch 'jlebon/listing' (PR16941)

Merge branch 'jlebon/library' into jlebon/listing

list.exp: fix regexes and strengthen

Fix regular expressions so that we expect the full path from stap rather
than just process("stap"). Also strengthen the testcase by making
matches against all output lines, rather than just checking if a single
line matches.

derive_probes(): properly handle optionality

We previously overrode a location's optionality if it was derived from a
globby process probe. However, this causes further probe points to be
derived to also be optional, even though the 'higher level' probe point
had its optionality restored to what the user really wants. The end
result was that we would list probes as not optional even though the
endpoint probe was optional.

What we really mean when we say process probes born out of a higher
globby process probe should be optional is that only some of the matched
binaries will actually resolve, so it's OK if some don't resolve.
However, those that *do* resolve should respect the user's wish with
regards to optionality.

To do this, we must not override the probe_point's optional flag in
derive_probes.

This is mostly a cosmetic change, although some runtime elements do rely
on optionality to decide whether to emit a warning upon failing to
register a probe.

This patch also makes process.library probes born out of a higher globby
library probe follow the same logic.

labels.exp: adjust lineno

library probes: update stapprobes(3stap)

Clarify that we normally search among NEEDED libraries but that
non-NEEDED libraries are also supported.

label probes: rework logic

Ever since PR16615 (merge commit 4636ca3), statement/function probes
where we specify the full "func@file:N" have been too precise for label
probes.

Imagine the following C program:

   ...
   <expression-statement>
mylabel:
   <expression-statement>
   ...

The line at which 'mylabel' occurs is not actually associated with any
line records. Thus, when using the new iterate_over_srcfile_lines(),
specifying the lineno of the label results in no records found, whereas
prior to PR16615, the next lineno would be picked up.

Regardless, the previous mechanism of using iterate_over_srcfile_lines()
to then call back to query_srcfile_label() which in turn called
iterate_over_labels() was a roundabout way of making sure that the
specified lineno lies in a filtered function's DIE.

We now rework iterate_over_labels() to directly handle lineno matching
when necessary. Supported cases:

process.function("foo@file.c:N").label("*")
   --> matches label in foo at N

process.function("foo@file.c+N").label("*")
   --> matches label in foo at N + decl_line of foo

process.function("foo@file.c:N-M").label("*")
   --> matches labels in foo between N and M

process.function("foo@file.c:*").label("*")
   --> matches all labels in foo

This patch also pushes down the priority of "func@file:N" type probes so
that if a .label or .callee[s] is present, then the relevant
iterate_over_*() is called, rather than iterate_over_srcfile_lines().

library probes: suggest libraries on mismatch

Suggest from the iterated libraries if no matching libraries were found.

alias probes: mark final aliases as well-formed

When building probes from aliases, we mark them as well-formed if they
reached their final derivation so that in listing mode, we stop at this
final alias form.

library probes: also try non-NEEDED libraries

This patch adds back support for non-NEEDED libraries even when the user
supplied a non-canonical path. However, a WARNING is emitted to notify
the user. This WARNING can be suppressed by specifying the fully
resolved path to the library.

process probes: throw error upon unresolved executable

When find_executable() fails to resolve something, it simply returns the
same path it was fed. Depending on the context, the caller may be able
to deal with an unresolved path.

In the case of process probes for dwarf_builder and other base_query
users, dealing with it meant simply that the dwflpp failed to find the
executable which meant iterate_over_modules() never even took off (and
we thus yielded the good ol' "no match" error).

However, in the case of library probes, this may not always work because
if the library path is fully specified, we will switch to it without
resorting to iterate_over_libraries() (see also previous patch) and
without ever actually checking if the process path was fully resolved,
thus allowing a probe such as the following to be created:

process("garbage").library("/full/path/to/library.so").function("foo")

So instead, we add explicit checks to verify that process probes were
properly resolved by find_executable(). As an added benefit, users get a
clearer reason of why the probe point failed:

BEFORE:

semantic error: while resolving probe point: identifier 'process' at <input>:1:7
        source: probe process("asdf").library("mylib.so").function("foo") {}
                      ^

semantic error: no match

AFTER:

semantic error: while resolving probe point: identifier 'process' at <input>:1:7
        source: probe process("asdf").library("mylib.so").function("foo") {}
                      ^

semantic error: cannot find executable 'asdf'

library probes: strengthen library path resolution

One of two things happens to library probes the first time we enter
dwarf_builder::build():
   - If the full path can be resolved using find_executable(), then we
     would right away switch focus to the library, rather than the
     process.
   - Otherwise, we would focus on the process and then use
     iterate_over_libraries() to find a library match.

These decisions are made in two spots: in dwarf_builder::build(), prior
to creating the dwflpp object, and in base_query::base_query().

When we resort to iterate_over_libraries(), new probes are created for
each matching library. And since the path inserted in those new probes
is the full path, find_executable() will find it upon recursing into
dwarf_builder::build().

One issue is that if find_executable() succeeds on the first time, we
will focus on the library, regardless of whether the library is NEEDED
or not. Whereas if find_executable() fails, only NEEDED libraries could
ever be picked up by iterate_over_libraries().

This is mostly fine, except that it creates an inconsistency. For
example, let's say executable 'bar' depends on 'libfoo.so' located in
/lib/. Doing a "libfoo.so" library probe would prioritize a libfoo.so
file in the current directory before the one in /lib/, which is the
'real' one. On the other hand, doing "libfoo.*" would match the
libfoo.so file in /lib/ because of the glob char.

It also fixes the potential issue of having a fully specified library
path with a bad process path: we would focus on the library yet in
query_module() try to iterate_over_libraries() on the library, thinking
that the library was not resolved.

In this series of patches, we change the behaviour as follow
   - Only switch to the library on the first entry of
     dwarf_builder::build() if the path is already fully resolved.
     Otherwise, always use iterate_over_libraries().
   - If iterate_over_libraries() fails, then try a direct
     find_executable() invocation, and warn that the found library is
     not a NEEDED one.

This patch does the first part only. The second part is done in the next
patch.

library probes: don't add libraries to visited_modules

The dwarf_query's visited_modules set is used to keep track of which
modules are visited for suggestions. It works by emptying out the visited
modules into the dwarf_builder's modules_seen after we're done iterating
through the modules. By the end, modules_seen contains the full list of
modules to suggest from.

Since .library(glob) probes resolve to multiple probes for each matching
library, dwarf_builder's modules_seen will already pick each of them up
from the individually created dwarf_query objects.

So in the end, the modules_seen from which we make suggestions will
already contain them.

java probes: mark initial pp as well-formed

probe: remove unused create_alias() function

dwarf_query: tweak final_function_name() signature

Almost all of the users of final_function_name() call it with a const
char* for the filename, rather than a string. There may be cases where
the filename is NULL (e.g. if the function was derived using the
symtab), in which case we don't want to cast to a string.

query_srcfile_line(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_plt_statement(): add well-formed probe point

If the user provides a .plt[(string)] probe, then we'll end up in
query_one_plt during plt iteration, in which we create a specific_loc
where we replace the possibly globby string with the found plt. Mark
this specific loc as well-formed.

If the user provides a .plt[(string)].statement(number) probe, then
we'll end up in query_plt_statement() directly, in which case we need to
create the final well-formed probe point in which we omit the .plt part.

query_inline_instance_info(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_func_info(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_addr(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_label(): add well-formed probe point

The probe points created in query_label() are already well-formed. We
use the new interface installed in dwarf_query to simplify it.

query_callee(): add well-formed probe point

The probe points created in query_callee() are already well-formed. We
use the new interface installed in dwarf_query to simplify it.

dwarf_query: add probe point editing helper functions

As mentioned in the previous commit, these functions will help us to
modify the newly mounted probe point into a well-formed one.

dwarf_query: add mount/unmount_well_formed_probe_point()

In commits e772a6e and 9891c54, we improved the way query_callee() and
query_label() add intermediate probes to the derivation chain by playing
with the dwarf_query. This technique will be required many times in
other places that we will need to fix up.

Therefore, we create two new dwarf_query helper functions. The
mount_well_formed_probe_point() function simply sets the current
base_loc and base_probe of the dwarf_query object to a new one, which is
denoted well-formed.

At first, this new location is simply a copy of the previous location,
with the exception of a fully resolved process/module path. Then,
depending on the probe point type, specific functors are replaced by
their final/non-globby versions to create a truly well-formed probe
point.

More helper functions to edit the functors will be added in the next
patch.

The unmount_well_formed_probe_point() refocuses the dwarf_query to the
previous base_loc/base_probe so that further probe points can be
derived.

kprobe_builder: remember the .call component

Although it doesn't make a difference, we remember whether .call was
specified and include it in the created probe so that it is listed as
well.

There's no need to mark it well-formed. It is the last destination, and
it is already well-formed.

sdt_query: set well-formed intermediate probe

The specific_loc intermediate probe created in
sdt_query::convert_location() is already well-formed. We mark it as such
so that listings will use this probe.

perf_builder: add well-formed intermediate probe

hwbkpt_builder: add well-formed intermediate probe

simplify derived_probe::script_location()

Rather than relying on yucky heuristics, we go the explicit way. The
script_location() function now relies on the new probe_point member
'well_formed', which is true if the probe point represents the 'final'
script-level expression, after wildcard expansion.

Since only each individual probe builder knows what constitutes a
well-formed probe point, it will be up to those to set the 'well_formed'
flag as needed. If the probe point that we want to list is also the
final one, which is the case for many simpler probe points, then no
further work is needed. The following patches modify the appropriate
builders to do just this.

listing_mode.exp: new testcase

listing_mode.exp: rename to listing_mode_sanity.exp

nd_syscall.exp: fix SYSTEMTAP_DEBUGINFO_PATH override

This is a follow-up to commit 27ce133. Tcl's exec proc can't handle env
var setting as part of its args:

couldn't execute "SYSTEMTAP_DEBUGINFO_PATH=/dev/null": no such file or
directory
FAIL: testsuite/systemtap.syscall/nd_sys.stp compilation

We need to explicitly manipulate the env array to set the
SYSTEMTAP_DEBUGINFO_PATH and then restore it afterwards if needed.

Improve BZ16956 by testing nd_syscall tapset without debuginfo.

* testsuite/systemtap.syscall/nd_syscall.exp: Make sure the nd_syscall
  tapset isn't using debuginfo by setting SYSTEMTAP_DEBUGINFO_PATH to
  /dev/null.

Fix BZ16960 by handling !CONFIG_USER_NS better.

* buildrun.cxx (compile_pass): Convert the from_kuid_munged() test to a
  compile test, instead of an export test.
* runtime/linux/runtime.h: Restore original CONFIG_USER_NS support.
* runtime/linux/autoconf-from_kuid_munged.c: New autoconf test.

linux runtime: switch to vmalloc for context[] element allocation

The new eventcount.stp changes can result in relatively large context
structures (33712 bytes each on f19/x86-64), which the stp_kmalloc
widget can sometimes fail to allocate.  Switching to the numa-aware
vmalloc front-end lets these allocations succeed.

TBD: those contexts shouldn't be that large.

eventcount.stp sample: add some more sorting options, config disclosure

stapprobes.3stap: highlight obsolete nature of kernel.mark probes

PR16955: adapt testsuite

- pr10854.exp: use -w to suppress warnings re. blacklisted functions
- rlimit.exp: ditto

PR16955: improve blacklisting diagnostics

Create a new enum to describe the reason why the function was
blacklisted. In dwarf_query::add_probe_point(), emit a warning if
blacklisted.

linux/runtime.h: more CONFIG_USER_NS fallout

Partially unrolling commit 7d35a948401, because on modern kernels
(3.14+), the from_k?id_munged functions are defined as inlines, and
should be used regardless of CONFIG_USER_NS etc.  The buildrun.cxx
exportedness test for from_kuid_munged would fail, triggering our
runtime to use a do-nothing macro instead.

Until a more programmatic way is found for those unidentified older
kernels that have CONFIG_USER_NS but no from_k?id_munged inlines,
for now a user will have to work around the build problem with

  % stap -DSTAP_FAKE_KID_MUNGED

More linux 3.14 porting, sans CONFIG_USER_NS

This time, cover the remaining tapset/runtime stuff.

PR16956: add "kernel<linux/types.h>" to all nd_syscall.* @cast ops

We can't take blood from stone - dwarf from a kernel whom we are
targeting for non-dwarf processing.  So generate dwarf from the
headers if necessary.

warn about missing kernel symbol table

On some distros (e.g., arch linux), no System.map* file survives the
build process, but there may be ways to fabricate doppelgangers.

* session.cxx (systemtap_session::parse_kernel_functions): Warn if
  none found.
* warning::symbols: new man page
* warning::debuginfo: xref.

session: don't suppress warnings in dump mode if -vv

Just like how derive_probes() still prints errors in dump mode if -vv is
supplied, we do the same for warnings.

whitespace tweak for examples html index

Add some popularity numbers for examples/category links.

regenerate examples index

publican docs: define a BZURL

Add pyparsing dependency for sdt-devel

*systemtap.spec - add dependency for new dtrace functionality

Fix probes with no args for --no-pyparsing mode.

* dtrace.in (_ReProvider): Check for no args.
* dtrace.exp: Fix test for probe with no args.

sdt_varname.exp: small tweaks

1. Only run testcase if installtest
2. Uncomment the (mistakenly commented out) code that cleans up the
   testing directory upon exit
3. Enable -fPIC when compiling library, which can yield different forms
   of operands, thus improving the testing range

callee.exp: simplify shlib testing further using -shared

This is a follow-up to commit 72ad110. We can skip the library's
intermediate object file by directly using -shared in the first
invocation.

Merge branch 'jlebon/pr13296'

This merge gives SystemTap the ability to decode SDT operands that refer
to symbols. There are also a few code cleanups, such as:
   - Removal of SDT probing code that supports a hypothetical kernel
     mode.
   - Removal of old unused symbol table code for reading in symbols by
     reading output from nm or from a file.
   - Major refactoring of the sdt_uprobe_var_expanding_visitor::
     visit_target_symbo_arg() function to make it easier to understand
     the overall structure.
   - Strengthening of sections/note entry checks before parsing probe
     information.

NEWS: add blurb about pr13296

sdt_varname.exp: new testcase for varname SDT probing

This new testcase verifies that SDT operands of the form
[off+]varname[+off][(reg)] are properly parsed by stap.

SDT probes: remove kernel-specific handling

factor out precision_to_function

factor out try_parse_arg_varname

factor out try_parse_arg_effective_addr

factor out try_parse_arg_offset_register

factor out try_parse_arg_register

factor out build_dwarf_registers

factor out try_parse_arg_literal

factor out parse_out_arg_precision

factor out get_target_symbol_argno_and_validate

update table of possible operand syntax

PR13296: allow SDT operands using VARNAME

We may encounter SDT operands of the form [OFF+]VARNAME[+OFF][(REG)]
which refers to the address of a object in the symtab. On x86_64, the
REG can be '%rip' to denote RIP-relative addressing.

To do this, we also pass the current dwflpp object to
sdt_uprobe_var_expanding_visitor, which then tries symbol resolution
using the symbol table if it meets upon such an SDT operand.

symbol_table::read_from_elf(): also pick up globals and locals

These will be needed in upcoming patches.

symbol_table: remove read_* methods

These methods of retrieving symbols haven't been in use since 2008 (at
least according to the date of the comment mentioning its abandonment).
Rather than having it slowly rot away, let's remove it. Git will
remember it for us if we ever need it back.

tapsets.cxx: remove unneeded forward decls

module_info::get_symtab(): don't require base_query

The get_symtab() function originally required the 'sess' and 'dw'
members of dwarf_query (see commit 5f0a03a6). Nowadays, this is no
longer required.

setup_note_probe_entry(): strengthen note checks

In dwflpp::iterate_over_notes(), we call back to
sdt_query::setup_note_probe_entry() for every note entry found,
regardless of section name or note name, which is fine.

However, on the callback side in setup_note_probe_entry(), we never
actually check that the section name or note name is correct; we only
check that the note entry type was what we expected.

This means that it could have been possible for setup_note_probe_entry()
to try to blindly parse data from a note entry which was not even a
stapsdt note, which could be dangerous.

This patch adds explicit checks that the section name and the note name
are what we expect.

Correctly return task pointers by making them unsigned longs.

* tapset/linux/task.stp (task_current): Return task strucct pointer as an
  unsigned long.
  (pid2task): Ditto.

callee.exp: simplify shlib testing by using -rpath

We previously started stap separately from the target process because we
needed to set the LD_LIBRARY_PATH variable for it to run properly.

However, if we use the linker option -rpath to add the current directory
to the library path (as is done also in unprivileged_myproc.exp), this
is no longer necessary, thus greatly simplifying the testcase.

Normalize "aarch64" to "arm64" to match SystemTap's idea of arch

error::pass2 - note --poison-cache as possible caching bug workaround

module cache hashing: add systemtap version string

* session.cxx (version_string): New method.
  (version): Call it.
* hash.cxx (get_base_hash): Ditto.

Fix tcl error in testsuite/systemtap.base/target_set.exp

* testsuite/systemtap.base/target_set.exp: Fix tcl error on script compile
  failure by providing fail reason.

Fix PR16914 by adding more aarch64 defines.

* runtime/linux/compat_unistd.h: Add '__NR_open' and '__NR_futimesat'
  defines for aarch64.

Flip condition so proper default picked for STAP_NOP in testsuite/sys/sdt.h

A number of the uprobes code failed to build on aarch64 because the
define for STAP_NOP would default to the unusual "nop 0".  The test
has been flipped around so the default is usual "nop" if there is
not something explict.

Fix PR16914 by adding aarch64 support to runtime/linux/compat_unistd.h.

Fix nd_syscall ustat32 probes.

* tapset/linux/nd_syscalls2.stp: Combine the 2 nd_syscall.ustat32 probes
  into one.

PR16913: aarch64: don't require prelink